IBM对检测AI见的方法

你需要知道的细分

种族偏见以多种形式出现在人工智能中，主要体现在它所训练的数据算法缺乏多样性。IBM研究人员一直在忙于提出减少用于训练AI机器学习系统的数据集中的偏差的方法。如果你拒绝某人找工作，贷款或者决定他们是否应该因AI数据而入狱，这是一件大事。

该软件巨头开发了一个评级系统，可以对AI平台的相对公平性进行排序，并解释决策的制定方式。IBM将推出其AI Fairness 360工具包，并使开源社区可以轻松访问新软件，作为对抗同类开发人员当前状态的一种方式。

“完全自动化的软件服务解释了决策，并在运行时检测AI模型中的偏差- 正在做出决策- 捕获可能产生的不公平结果。重要的是，它还会自动推荐数据添加到模型中，以帮助减轻它检测到的任何偏差，”IBM在一份声明中写道。

CultureBanx此前曾报道人工智能平台如何接管银行贷款决策可能会使黑人家庭财富进一步落后。根据Zillow的报告，2016年，20.9%的黑人借款人和15.5%的西班牙裔借款人被拒绝贷款，8.1%的白人申请人和10.4%的亚洲申请人被拒绝。差距很大，因为拥有房屋可以帮助大多数人，无论种族如何，积累资产来增加他们的净资产。

AI市场意识

IDC最近的一份报告指出，预计2022年全球认知和人工智能系统的支出将达到776亿美元。如果这些预测能够持续下去，IBM将会受益匪浅。该公司在AI领域的成功主要归功于其Watson技术是第一个商用AI平台。它是IBM Cognitive Solutions集团的一部分，该集团在过去五个季度的复合年增长率(CAGR)增长了1.4%。

然而，挥之不去的问题是人工智能只有它所提供的数据一样好，所以如果信息有偏见，人工智能的决定也会反映出来。IBM的新贡献可以增加另一层理解，以更好地解决AI偏见问题。这里有点值得思考的东西让我们有点疑惑，谁决定所谓的“公平算法”有多公平?

（编辑：PHP编程网 - 黄冈站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!