Google新型人工智能透明度工具的利弊
发布时间：2022-07-07 15:35:38 所属栏目：大数据 来源：互联网
导读：在此特别的来宾功能中，Zest AI的CTO Jay Budzik讨论了Google推出的开发人员工具集，这些工具可让数据科学家创建可解释的ML模型，以及这些新工具的现实性以及它们如何影响财务服务市
|
在此特别的来宾功能中，Zest AI的CTO Jay Budzik讨论了Google推出的开发人员工具集，这些工具可让数据科学家创建可解释的ML模型，以及这些新工具的现实性以及它们如何影响财务服务市场。Zest AI是一家软件公司，可帮助银行和贷方建立，运行和监视完全可解释的机器学习承销模型。作为首席技术官，Jay负责Zest的产品和工程团队。他对发明新技术(尤其是在数据挖掘和AI中)的热情在他的整个职业生涯中发挥了核心作用。周杰伦拥有博士学位西北大学计算机科学专业。 这就是为什么Google的新的基于云的可解释AI(XAI)工具套件为希望采用AI的公司朝正确方向迈出了一步。这些工具可以解密和捍卫特定数据因素如何促进在复杂神经网络之上构建的机器学习(ML)模型的输出。虽然Google XAI应该引起人们的关注并帮助消除一些ML神话，但它可能不会刺激所有公司的采用，特别是需要完全可解释的承销模式来决定谁可以借款，谁不能借款的金融服务公司。 尽管听起来很引人注目，但Google XAI不适用于所谓的集成模型，该模型使用多种或竞争性技术将多个模型编织在一起。“汇总”提高了AI信用评分的预测能力-假设可以检查集体系统以评估决策的制定方式-并且在接下来的几年中，随着贷方接受ML，它将成为标准。目前，Google对基于树的模型以及树和神经网络的集成提供了有限的支持。 第三，虽然Google AI“假设分析”工具非常聪明，并且可以让建模人员一目了然地测试不同的场景，但Google的用户界面可能很难使用。开发人员将必须学习特定的编码语言和配置约定以访问可解释性功能。 最后，Google的可解释性软件包主要针对数据科学家，而不是为受严格监管的金融服务公司工作的信用分析师。从理论上讲，银行的数据科学家可以使用Google的工具建立模型。但是这些人将需要构建其他工具来测试其模型的准确性和公平性，并生成监管机构要求的所有合规报告。  （编辑：PHP编程网 - 黄冈站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
浙公网安备 33038102330482号