Bengio 说“抬起眉毛”可以让人工智能的对唱演变成三重奏

　　Lili Cheng 最近被晋升为集团副总裁，负责 bot 架构团队和认知服务的运营。这是微软为开发者提供的 29 中计算机视觉和语音识别服务的工具包。在离开苹果来到微软后，她曾创建了一个用于生成漫画书的图形界面。“它随 IE3 一同推出，”Lili Cheng 回忆道，那是在 1996 年。她见证了很多，但仍然为聊天机器人的发展速度感到惊讶。她提到了最近在开发者大会上对会计和金融公司开发者的演讲。“聊天机器人在一年多时间内的发展成果是惊人的，我们已经完成了突破，”Lili Cheng 说道。

　　Lili Cheng 喜欢和人谈技术，也喜欢讨论技术是如何影响人的。沈向洋已经把微软的人工智能研究团队整合为四个大块——产品、早期产品、过早期产品和研究，Lili 同时参与所有四个方向。现在，她正在第二个部分努力。“我们见证了 bot 和 Cortana 逐渐形成产品，但它们目前仍然只是早期形态的产品，”Lili Cheng 说道。

　　Emma Williams、Marcus Ash 和 Lili Cheng

　　实际上，微软在 2016 年春季率先推出 bot 的开发者工具包，然后才是其他如 Facebook 那样的大型科技公司。这些工具被视为 App 的替代品，很多利益相关者也真的希望其能成为替代品。去年春天，大多数人在智能手机上使用同样的小群 App，而 bot 的承诺是开发者和品牌能再次获取新用户，就像早期智能手机的 App 商店一样。但用户好像并不合作，而 bot 能执行的深度学习还在快速进步，而不仅仅是利用深度学习的方式在发展。Cheng 说：“Bot 就像文件菜单还没出现时的 App”。她解释到因为现在没有一组常用的命令，所以用户对系统到底怎么工作和使用常常感到困惑。“例如网页，它们都有返回按钮并且很容易进行搜索。传统的 App 都有这些相似的基本组件。”而现在 Bot 这些规则才刚刚开始制定。

　　除了令 Bot 工具可用于开发外，Cheng 还领导了微软孵化了其自己的聊天机器人。公司可以通过观察 Bot 和人的交流过程而学习到很多人机交互的知识。还记得微软带有种族歧视的机器人 Tay 吗?它于 2016 年 3 月登陆于 Twitter、Kik 和 GroupMe，但在 24 小时内，它吸收了很多种族歧视类的言论，并被诱导着说出了像“希特勒是对的”这样的言论，因此微软很快就将 Tay 下线了。六个月后，Cheng 发布了一款名为 Zo-on Kik 的新一代的 PG 级机器人。不久之后，当有人问 Zo 它怎么看待希特勒，它会回答“我真不想去那里”。Zo 就像西方版的小冰，17 岁的中国聊天机器人小冰自从 2014 年登陆以来就吸引了 4 千万的固定用户。小冰在中国是个社会名人，就像 Rinna 在日本一样。基本上有四分之一的用户都表明他们很喜欢小冰。

　　去年春天，聊天机器人经常匿名发表诗歌。沈向洋对此感到十分兴奋：“没人知道是机器人，国内普遍认为一位年轻的女诗人正在发布一些很有意思的诗篇。”几周后，聊天机器人的身份才十分惊喜地公布出来。

　　语言的亲密度在文化上是具体的，Cheng 正在研究以解决如何将 Bot 的会话风格转换为西方用户所接受的风格。目前为止，北美的青少年似乎喜欢聊天机器人和亚裔少年一样，根据数据，平均每周他们要花费 10 小时和 Zo 交流。由于 Zo 的青少年用户常常倾诉成长期的烦恼与父母关系的困苦，它在转换短语智能中变得更加优雅，因此将其放入 Cortana 和其他微软 Bot 工具是很有用处的。

　　五

　　因为用户愿意花费十多小时和 Zo 聊天，那么这将是微软开发成功产品的一个迹象。但这并不意味 Zo 就是一个好产品，只是说某种意义上它对人类是有价值的。同时这种由 AI 驱动的世界真暴露出一大批新型道德伦理风险，因为用户数据、隐私信息等等都暴露在聊天机器人面前，所以其还不能算一个成功的产品。

　　当微软想要成为人工智能研究与产品中的 leader 之一时，它已经在让人工智能普惠社会上做努力了。5 月份，Nadella 开始面向开发者的 keynote 演讲，严辞提醒技术人员要承担起建立合乎道德的软件的责任。开发者大会一般是公司 CEO 们吹嘘公司最新进展的舞台。“我的意思是，你想一下，技术被用于监视、控制、命令时;或者被用于分散我们的注意力，没有任何意义与目的时。这些都不是我们想要的未来。”

　　为了帮助公司思考这些问题，微软组成了一个每季度都碰面的内部道德社区。它由工程师与商业部门主管构成，讨论有关人工智能影响与使用的敏感话题。联合主席包括微软副总法律顾问和 Eric Horvitz。Eric 负责除亚洲研究院之外的所有微软研究院。长期以来，他都在人工智能道德与安全问题上领头发声。公司之外，他帮助建立了 Partnership on Artificial Intelligence，这是一个联盟，想要为人工智能产品的透明度、责任性与安全性建立行业标准。Eric 不只是想要微软成为做研究的地方，还希望微软研究院成为研究人工智能技术社会影响的地方。

　　微软资深科学家 Eric Horvitz

　　同时，Cortana 的设计领头人 Williams 也在建立一个微软内部使用的道德设计指南。搞笑地说，Williams 是一个科技乐观主义者，她坚信人工智能的真正魔力在于它能使我们更人性。她谈论了很多如何在微软工具中设计共情(empathy)。她说，“我考虑的是让人们感觉更强大、更安全、更有用，以及被关爱更多，让他们成为各自世界的中心。人工智能的工作是扩大社会最好的一面，扩大人类最好的行为，不是最坏的一面。”

（编辑：PHP编程网 - 黄冈站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!