Google的MinDiff旨在减轻分类器中的不公平偏见 前工作人员严厉地揭露了Facebook内部职能 PUBG推出印度特色游戏 投资1亿美元 STL为印度农村地区推出数字包容平台 脸书即时通和Instagram现在可让您发送Snapchat风格的消失消息 由于2020年与以往不同 今年YouTube不会倒带 Instagram更新了应用程序 在主屏幕上添加了专用的Reels和Shop标签 继苹果之后亚马逊开始转向内部芯片 宣布将Alexa的工作从Nvidia转移到Inferentia 分析师表示到2025年数据中心的容量将增长三倍 莲花社区开展“把爱带回家”关爱困难儿童、留守儿童活动 为什么Fitbit Charge 4是2020年最佳健身科技礼品 新Xbox Series X所有者的最佳节日礼物 Gretel宣布推出1200万美元的A轮融资 以简化数据匿名操作 CVS成为第一家在结帐时为贝宝和Venmo二维码提供支持的国家零售商 Spotify添加了内置播客播放列表创建工具您的情节 Undock筹集了160万美元 以帮助解决您的团队安排噩梦 计算机视觉初创公司Chooch.ai获2000万美元A轮融资 生化危机游戏制造商Capcom在勒索软件攻击后确认数据泄露 美国宇航局将尤达宝贝与宇航员一起乘坐SpaceX Dragon送入太空 Zilliz筹集了4300万美元 因为投资者急于购买中国的开源软件 Zeotap为其客户ID平台筹集了1850万美元 苹果的IDFA成为欧盟战略性隐私投诉的目标 谷歌Chrome可能很快会显示有关如何使用浏览器的视频教程 您可以通过以下方法阻止Google关闭您的无效帐户 Google将Pixel 5的摄像头应用程序引入了较旧的Pixel智能手机 隐私权主义者对苹果的跟踪工具提出投诉 苹果已开始向Apple TV+订户发放每月积分 直到一月份 如何在Gmail上固定重要的聊天 如何离线从谷歌相册导出和下载所有这些图片 波士顿动力狗机器人Spot在BP石油钻机上学习新技巧 埃隆·马斯克的火箭公司SpaceX将宇航员送入太空 中小型企业如何在节日期间利用技术来提高销量 ByteDance获得美国订单15天延期以剥离TikTok Google搜索有一个排灯节的复活节彩蛋 微软称停止使用手机作为安全设备 Snapchat用户现在可以查看自己的星座资料 查看与朋友的兼容性 研究显示谷歌Play商店是Android设备上最大的恶意软件分发者 Google正计划在西雅图附近建立一个新校园 欧盟的布雷顿告诉谷歌首席执行官皮查伊互联网不能是蛮荒的西部 高通获美国许可向华为出售4G芯片 大众在1770亿美元的投资预算内增加了技术支出 苹果可能会为AirPods 3和iPhone 13系列还有mini LED iPad使用新的电池技术 HabitAware的智能手环Keen2可以抑制您的强迫性习惯 负责任的AI在2021年变得至关重要 本田将在2021年3月前实现量产3级自动驾驶汽车的生产 天生没有手的人将获得合金装备3D打印的仿生手臂 苹果的MacBook Air和Pro还有Mac mini获得具有16个AI内核的M1芯片 macOS Big Sur支持Apple M1和Intel Macs 运行iOS应用和游戏 苹果推出M1 这是Mac专用ARM处理器系列中的第一个 LinkedIn开源Dagli 一个Java机器学习库
你当前位置:首页 >资讯 >

Google的MinDiff旨在减轻分类器中的不公平偏见

2021-02-03 16:24:25来源:

谷歌今天发布了MinDiff,这是一个新的框架,用于减轻(但不能消除)训练AI和机器学习模型时的不公平偏见。该公司表示,MinDiff是多年工作的高潮,已经被整合到各种Google产品中,包括适度内容质量的模型。

分类的任务涉及将数据分类为标记的类别,因此容易对模型训练数据集中代表性不足的组产生偏见。用来衡量这种偏见的最常见指标之一是机会均等,它旨在最大程度地减少不同群体之间误报率的差异。但是,由于有关人口统计的数据稀少,去偏差工具的直觉性质以及不可接受的精度折衷,通常很难达到平衡。

MinDiff利用过程中的方法,其中以消除偏见为目标的模型增强了模型的训练目标。然后,在具有已知人口统计信息的少量数据样本上优化此新目标。给定两片数据,MinDiff会对模型进行惩罚,以惩罚两组之间得分分布的差异,以便在模型训练时,它将尝试通过使分布更接近来最小化损失。

为了提高易用性,Google的研究人员从对抗训练转向正则化框架,该框架对无害示例的预测和人口统计信息之间的统计依赖性进行了惩罚。这鼓励模型在所有组之间均衡错误率。

MinDiff最小化了预测与人口统计组之间的相关性,即使以后的分布有所不同,这也会微调各组预测的平均值和方差相等。它还考虑了最大平均差异损失,Google声称它可以更好地消除偏差并保持模型准确性。

谷歌表示,MinDiff是适用于不同用例的更大的“模型补救库”技术中的第一个。Google高级软件工程师Flavien Prost和员工研究科学家Alex Beutel在博客中写道:“分类器错误率的差距是要解决的一组重要的不公平偏见,但并不是唯一的一种。”“对于机器学习的研究人员和从业人员,我们希望这项工作可以进一步推进研究,以解决更广泛的不公平偏见,并开发可用于实际应用的方法。”

Google以前开源了ML-fairness-gym,这是一组用于在模拟的社交环境中评估算法公平性的组件。该公司套件中的其他模型消除偏差和公平性工具包括假设工具(What-If Tool),用于其TensorFlow机器学习框架的TensorBoard Web仪表板的偏差检测功能以及旨在为部署AI的企业增加一层质量保证的问责框架楷模。