谎言 该死的谎言和AI
发布时间：2021-07-14 12:54:16 所属栏目：大数据 来源：互联网
导读：算法与它们所依赖的数据一样具有偏差。并且所有数据都有偏见。甚至官方的统计数据也不能被认为代表客观，永恒的事实。政府公布的数字代表了现在的社会，通过汇总数据的角度认为是相关和重要的。用于理解数据的类别和分类不是中立的。就像我们衡量我们所看到
|
算法与它们所依赖的数据一样具有偏差。并且所有数据都有偏见。甚至“官方”的统计数据也不能被认为代表客观，永恒的“事实”。政府公布的数字代表了现在的社会，通过汇总数据的角度认为是相关和重要的。用于理解数据的类别和分类不是中立的。就像我们衡量我们所看到的一样，我们倾向于只看到我们衡量的东西。
随着算法决策扩展到更广泛的政策制定领域，它正在摒弃曾经潜伏在我们收集的数据阴影中的社会偏见。通过将现有结构和流程纳入其逻辑极端，人工智能迫使我们面对我们创造的社会。
正如我的剑桥大学同事Jonnie Penn所说，问题不仅在于计算机的设计与公司一样。计算机也像经济学家一样思考。
毕竟，人工智能与人们可以想象的同质经济一样绝对可靠。它是一种合理计算，逻辑一致的，面向终端的代理，能够利用有限的计算资源实现其期望的结果。当谈到“最大化效用”时，它们比任何人都更有效。
“效用”对于经济学而言，“燃素”曾经是化学的。早期的化学家假设可燃物质含有一种隐藏的元素 - 燃素 - 这可以解释为什么物质在燃烧时会发生变化。
然而，尽可能地尝试，科学家们永远无法证实这一假设。由于经济学家今天无法提供一定的实际效用，他们无法追踪燃素。
经济学家使用效用概念来解释人们做出选择的原因 - 购买什么，投资地点，工作难度：每个人都在努力根据个人对世界的偏好和信念，在极限范围内最大化效用由稀缺的收入或资源构成。尽管不存在，但实用程序是一种强大的构造。似乎很自然地认为每个人都在尽力为自己做好准备。
此外，经济学家的实用概念源于古典功利主义，旨在为最多的人获得最大的利益。就像现代经济学家追随John Stuart Mill的脚步一样，大多数设计算法都是功利主义者，他们相信如果知道“好”，那么它就可以最大化。
但是，这种假设会产生令人不安的结果。例如，考虑如何使用算法来决定囚犯是否应该假释。2017年的一项研究发现，算法在预测累犯率方面远远超过人类，并可用于将“监禁率”降低40%以上，“不增加犯罪率”。
那么，在美国，可以使用人工智能来减少不成比例的黑人监狱人口。但是，当人工智能接管假释过程并且非洲裔美国人仍被判入狱的速度高于白人时，会发生什么?
高效的算法决策使这些问题脱颖而出，迫使我们确切地确定哪些结果应该最大化。我们只想减少整体监狱人口，还是应该关注公平?
虽然政治允许捏造和妥协来掩盖这种权衡，但计算机代码需要明确。
对清晰度的要求使得忽视社会不公平的结构性来源变得更加困难。在人工智能时代，算法将迫使我们通过使用数据来识别过去社会和政治冲突的结果如何延续到现在。
感谢人工智能道德倡议和人工智能合作伙伴等团体，人们已开始就人工智能伦理问题开展更广泛的辩论。然而，人工智能算法当然只是做他们编码的事情。真正的问题不仅限于在公司治理和政治治理中使用算法决策，还要抨击我们社会的道德基础。
虽然我们当然需要讨论通过人工智能最大化“效用”的实际和哲学权衡，但我们还需要进行自我反思。算法提出了迄今为止我们如何组织社会，政治和经济关系的基本问题。
 （编辑：PHP编程网 - 黄冈站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
浙公网安备 33038102330482号