Facebook的歧视性广告定位说明了算法偏差的危险 研究人员建立了一个数据集 用于训练AI以从社交媒体图像中检测自然灾害 Kabbage如何通过机器学习处理70亿美元的Paycheck保护计划贷款 亚马逊光环是一款价值100美元的健身可穿戴设备的监视资本主义 苹果推出AI/ML居住计划以吸引利基专家 IBM将在美国公开赛期间使用AI传递模拟的人群噪音 太赫兹技术是无线领域的下一个大问题-但是它是什么 Google研究人员调查了转移学习的工作原理 Move.ai可以实现AI运动捕捉 而无需进行视频游戏制作 Steam聊天工具删除了Slur 但是应该删除了Slur用户 Restream推出Studio工具并筹集了5000万美元 Berbix获900万美元A轮融资 自主飞机创业公司可靠机器人以3350万美元的身价脱颖而出 最高法院AGR裁决后 沃达丰的创意获得近9%的收益 英雄摩托集团8月份在印度国内销售增长7.5% Sensex和Nifty可能有一个低调的开局 现货金价回落 因复苏希望获得牵引力 随着全球利率降低 印度国内黄金期货价格下跌近1% 8月的商品及服务税收藏品为86,449千万卢比 比7月低1% 8月柴油销售较7月下降13% 表明工业产值下降 在短短几个小时内 Zoom首席执行官的身家就增加了40亿美元 马恒达汽车销售在8月份下降了16% 拖拉机的销售上升了65% 停顿一天后 Sensex和Nifty继续上涨 八月份电力输出下降近1% 已连续第六个月下降 沃达丰Idea股价下跌20% Airtel和RCom股票因AGR裁决而上涨 调查显示工厂活动为5个月来首次上升 债券收益率暴跌 卢比因印度央行的稳定措施而飙升 研究人员的AI可以使用任何现成的相机执行3D运动捕捉 Chrome 85带有标签管理功能 页面加载速度提高了10% 研究人员研究了十年前医学AI论文中的不确定性 LinkedIn开源工具包可衡量AI模型的公平性 适用于安卓的Firefox Daylight具有增强的跟踪保护 Spaces是苹果难以置信的大型AR / VR马赛克中的另一块 微软的Word中转录工具为Office 365订阅者每月提供5个小时的转录 微软为开发人员提供了一种基于AI的工具 可在其应用程序中内置阅读辅助功能 Fitbit推出带有谷歌助手的Sense和Versa 3智能手表 Socure获3500万美元A轮融资 打击人工智能欺诈行为 比尔·盖茨领导对卫星天线公司Kymeta的8520万美元投资 WattBuy计算大多数美国家庭的电费和碳足迹 Netgear为艺术爱好者推出了Meural Wi-Fi宽屏相框 SparkMeter为发展中国家的智能电表筹集了1200万美元 法官裁定苹果不能阻止对Epic虚幻引擎的访问 L&T完成将电气和自动化业务出售给施耐德电气 玛鲁蒂铃木8月份国内销售增长近22% 主要经济体中最差的GDP达到-24%对印度意味着什么 周二各大城市汽油价格上涨4-5帕克斯 印度财政赤字在四个月内突破了全年目标 由于当前局势不断增加 现货金在触及2,000美元大关后趋于持平 信实与未来集团达成的33.8亿美元交易的影响 专家称印度6月份季度GDP增速超出预期
你当前位置:首页 >资讯 >

Facebook的歧视性广告定位说明了算法偏差的危险

2020-09-04 15:02:50来源:

今年夏天,到处都是关于算法出错的故事。例如,最近的一项研究发现,有证据表明Facebook的广告平台可能歧视某些人口群体。卡内基梅隆大学(Carnegie Mellon University)的合著者团队说,这种偏见加剧了社会经济不平等现象,这一见解适用于广泛的算法决策制定。

在涉及偏见,歧视性和偏见性算法决策的地方,Facebook当然对争议并不陌生。有证据表明,令人反感的内容经常会通过Facebook过滤器泄漏,最近的一项NBC调查显示,去年在美国的Instagram上,黑人用户被自动审核系统禁用帐户的可能性比其活动表明的人高出50%。白色。民权组织声称,Facebook没有执行其仇恨言论政策,7月对Facebook做法的民权审计发现,该公司未能执行针对唐纳德·特朗普总统的选民压制政策。

卡耐基梅隆大学的研究人员在对Facebook进行审核时,利用了该平台的广告库API,以获取有关不同用户之间广告发行的数据。在2019年10月至2020年5月之间,他们收集了超过141,063个在美国展示的广告,并通过算法对广告进行了分类,这些算法根据法律或政策规定的类别对广告进行了分类,例如“房屋”,“就业”,“信用”和“政治”。分类后,研究人员分析了广告分布中是否存在偏差,从而得出了按人口统计的细分数据。

鉴于最近有关AI歧视倾向的高调说明,这项研究再及时不过了。正如上一版《 AI周刊》所关注的那样,英国的资格和考试规定办公室使用了-然后被迫往后走-一种算法,用于在取消A级水平后估算学校成绩,这种考试对哪些大学生参加。(总理鲍里斯·约翰逊(Boris Johnson)称其为“变异算法”。)利用诸如学校内学生排名和学校历史表现等数据,该模型降低了40%的教师估算结果,使私立学校的学生受益不成比例。

在其他地方,八月初,英国内政部因使用旨在简化签证申请的算法而受到挑战。移民福利联合委员会声称,将过去的偏见和歧视纳入该制度,会加剧未来对某些国家申请人的偏见和歧视。同时,在加利福尼亚州,6月的圣克鲁斯市成为美国第一个禁止预测性警务系统的城市,原因是担心该系统会歧视有色人种。

Facebook的展示广告算法可能更无害,但考虑到它们可能会长期存在的刻板印象和偏见,它们同样值得进行仔细的审查。此外,如果他们允许按年龄和性别确定住房,就业或机会的目标,则可能违反《美国平等信贷机会法》,1964年《民权法案》以及相关的平等法规。

这不是第一次。2019年3月,美国住房和城市发展部对Facebook提起诉讼,指控其“歧视基于他们的身份和居住地的人”,这违反了《公平住房法》。在去年10月在Capital Hill举行的听证会上被问及有关指控时,CEO马克·扎克伯格说:“我们的任何服务都不应受到歧视,”他指出新实施的年龄,邮政编码和性别广告定位限制。

卡内基·梅隆大学(Carnegie Mellon)的研究结果表明,Facebook,广告商或两者都歧视特定用户群。正如合著者所指出的那样,尽管Facebook限制了针对房屋,就业或信贷广告的直接定位选项,但如果广告属于这些类别之一,它仍依赖广告主进行自我披露,这为剥削敞开了大门。

研究人员称,与信用卡,贷款和保险相关的广告不成比例地发送给男性(57.9%比42.1%),尽管在美国使用女性的女性比男性多,而且女性的平均水平要略高一些。信用评分比男人高。就业和住房广告则不同。研究人员调查显示,大约64.8%的就业机会和73.5%的住房广告显示女性比男性更大,后者分别看到35.2%的就业率和26.5%的住房广告。

研究人员发现,选择不识别性别或标记自己为非二进制/跨性别的用户很少(如果有的话)会显示任何类型的信用广告。实际上,在包括就业和住房在内的所有广告类别中,它们仅占所显示广告用户的1%-可能是因为Facebook将非二进制/跨性别用户归为模糊的“未知”身份类别。

研究人员说,Facebook广告还倾向于在年龄和教育方面进行区分。与所有其他年龄段的用户相比,向25-34岁的用户显示的房屋广告更多(占35.9%),分布趋势表明,最有可能从大学毕业并进入劳动力市场的群体看到广告的频率更高。

这项研究使得Facebook可以选择性地选择其API中包含的广告,还可以针对分布偏差对其他广告进行校正。先前的许多研究都证明,Facebook的广告实践充其量是有问题的。(Facebook声称其书面政策禁止歧视,并使用自动控制(作为2019年和解的一部分引入),以限制广告商何时以及如何基于年龄,性别和其他属性来定位广告。)但合著者表示,他们的意图是开始讨论不适当的广告分发何时不相关以及何时可能有害。

共同作者写道:“算法使用不完全的数据来预测个体的未来行为,这些数据来自属于同一社会文化群体的其他个体的过去行为。”“我们的调查结果表明,数字平台无法像他们所做的那样简单地告诉广告商,如果其广告用于住房,就业或信贷,则不要使用受众特征定位。相反,必须[积极]监控广告。此外,平台运营商必须实施一种机制,实际上可以从一开始就防止广告商违反规范和政策。”

对于易受偏见的系统,加强监督可能是最好的补救措施。像Google,Amazon,IBM和Microsoft这样的公司;像Sam Altman这样的企业家;甚至梵蒂冈也意识到了这一点–他们呼吁人们对某些形式的AI(例如面部识别)保持清晰。一些理事机构已开始朝正确的方向采取措施,例如欧盟,今年早些时候,该组织发布了侧重于透明度和监督的规则。但是从过去几个月的发展情况来看,很明显还有许多工作要做。

多年以来,美国一些法院使用已知的算法来产生基于种族的不公平预测,更有可能将非裔美国囚犯贴上重犯的标签。一名黑人在底特律被捕,罪名是他没有通过面部识别系统犯罪。70年来,美国运输规划师使用了一个有缺陷的模型,该模型高估了实际道路上实际看到的交通量,从而导致被剥夺权利的社区遭受毁灭性破坏。

在内部和外部,Facebook已经有足够的报道问题,人们都在争相对其广告政策进行更艰难,更持怀疑的态度。但这远非唯一有罪的政党。清单还在继续,采取积极措施解决这些问题的紧迫性从未如此强烈。

要获得AI报道,请将新闻提示发送给Khari Johnson和Kyle Wiggers-并确保订阅AI Weekly时事通讯并为我们的AI频道添加书签。