当前位置:人工智能行业动态 → 正文

IBM对检测人工智能偏见的方法

责任编辑:zsheng |来源:企业网D1Net  2018-09-26 21:54:41 本文摘自:企业思想家

人工智能在日常生活中变得越来越普遍,IBM希望将其整合到他们的平台上。虽然仍然处于早期阶段,该技术一直处于保密状态,并因为明显内置的种族偏见而放弃现有的陈规定型观念。由于它是技术中最有争议的部分之一,因此IBM正在努力提供透明度和公平竞争环境。

你需要知道的细分

种族偏见以多种形式出现在人工智能中,主要体现在它所训练的数据算法缺乏多样性。IBM研究人员一直在忙于提出减少用于训练AI机器学习系统的数据集中的偏差的方法。如果你拒绝某人找工作,贷款或者决定他们是否应该因AI数据而入狱,这是一件大事。

该软件巨头开发了一个评级系统,可以对AI平台的相对公平性进行排序,并解释决策的制定方式。IBM将推出其AI Fairness 360工具包,并使开源社区可以轻松访问新软件,作为对抗同类开发人员当前状态的一种方式。

“完全自动化的软件服务解释了决策,并在运行时检测AI模型中的偏差- 正在做出决策- 捕获可能产生的不公平结果。重要的是,它还会自动推荐数据添加到模型中,以帮助减轻它检测到的任何偏差,”IBM在一份声明中写道。

CultureBanx此前曾报道人工智能平台如何接管银行贷款决策可能会使黑人家庭财富进一步落后。根据Zillow的报告,2016年,20.9%的黑人借款人和15.5%的西班牙裔借款人被拒绝贷款,8.1%的白人申请人和10.4%的亚洲申请人被拒绝。差距很大,因为拥有房屋可以帮助大多数人,无论种族如何,积累资产来增加他们的净资产。

AI市场意识

IDC最近的一份报告指出,预计2022年全球认知和人工智能系统的支出将达到776亿美元。如果这些预测能够持续下去,IBM将会受益匪浅。该公司在AI领域的成功主要归功于其Watson技术是第一个商用AI平台。它是IBM Cognitive Solutions集团的一部分,该集团在过去五个季度的复合年增长率(CAGR)增长了1.4%。

然而,挥之不去的问题是人工智能只有它所提供的数据一样好,所以如果信息有偏见,人工智能的决定也会反映出来。IBM的新贡献可以增加另一层理解,以更好地解决AI偏见问题。这里有点值得思考的东西让我们有点疑惑,谁决定所谓的“公平算法”有多公平?

关键字:方法智能检测IBM

本文摘自:企业思想家

x IBM对检测人工智能偏见的方法 扫一扫
分享本文到朋友圈
当前位置:人工智能行业动态 → 正文

IBM对检测人工智能偏见的方法

责任编辑:zsheng |来源:企业网D1Net  2018-09-26 21:54:41 本文摘自:企业思想家

人工智能在日常生活中变得越来越普遍,IBM希望将其整合到他们的平台上。虽然仍然处于早期阶段,该技术一直处于保密状态,并因为明显内置的种族偏见而放弃现有的陈规定型观念。由于它是技术中最有争议的部分之一,因此IBM正在努力提供透明度和公平竞争环境。

你需要知道的细分

种族偏见以多种形式出现在人工智能中,主要体现在它所训练的数据算法缺乏多样性。IBM研究人员一直在忙于提出减少用于训练AI机器学习系统的数据集中的偏差的方法。如果你拒绝某人找工作,贷款或者决定他们是否应该因AI数据而入狱,这是一件大事。

该软件巨头开发了一个评级系统,可以对AI平台的相对公平性进行排序,并解释决策的制定方式。IBM将推出其AI Fairness 360工具包,并使开源社区可以轻松访问新软件,作为对抗同类开发人员当前状态的一种方式。

“完全自动化的软件服务解释了决策,并在运行时检测AI模型中的偏差- 正在做出决策- 捕获可能产生的不公平结果。重要的是,它还会自动推荐数据添加到模型中,以帮助减轻它检测到的任何偏差,”IBM在一份声明中写道。

CultureBanx此前曾报道人工智能平台如何接管银行贷款决策可能会使黑人家庭财富进一步落后。根据Zillow的报告,2016年,20.9%的黑人借款人和15.5%的西班牙裔借款人被拒绝贷款,8.1%的白人申请人和10.4%的亚洲申请人被拒绝。差距很大,因为拥有房屋可以帮助大多数人,无论种族如何,积累资产来增加他们的净资产。

AI市场意识

IDC最近的一份报告指出,预计2022年全球认知和人工智能系统的支出将达到776亿美元。如果这些预测能够持续下去,IBM将会受益匪浅。该公司在AI领域的成功主要归功于其Watson技术是第一个商用AI平台。它是IBM Cognitive Solutions集团的一部分,该集团在过去五个季度的复合年增长率(CAGR)增长了1.4%。

然而,挥之不去的问题是人工智能只有它所提供的数据一样好,所以如果信息有偏见,人工智能的决定也会反映出来。IBM的新贡献可以增加另一层理解,以更好地解决AI偏见问题。这里有点值得思考的东西让我们有点疑惑,谁决定所谓的“公平算法”有多公平?

关键字:方法智能检测IBM

本文摘自:企业思想家

电子周刊
回到顶部

关于我们联系我们版权声明隐私条款广告服务友情链接投稿中心招贤纳士

企业网版权所有 ©2010-2024 京ICP备09108050号-6 京公网安备 11010502049343号

^