登录

/

注册

首页 > 科技媒体 > 媒体详情
科技前沿 | 比人类更靠谱?人工智能已经学会相互理解
特斯拉 2018-07-31
导语

读心术,相信大家都或多或少有过幻想,想象自己能够掌握读取他人心声的超能力,该是多么奇妙的一件事情。现在,这种超能力似乎有了眉目。

读心术,相信大家都或多或少有过幻想,想象自己能够掌握读取他人心声的超能力,该是多么奇妙的一件事情。这种超能力曾被拍成电影,被画成漫画,被多次作为噱头提及,唯独没有发生在现实中。

现在,这种超能力似乎有了眉目。


「心智理论」一直被认为是人工智能无法掌握的能力,然而在 DeepMind 发表的论文《Machine Theory of Mind》中,研究人员提出了一种新型神经网络ToMnet,具备理解自己以及周围智能体心理状态的能力。该论文已被ICML 2018接收为Oral论文。近日,这一研究又引起了《Science》的注意。

有时候,我们会觉得Siri或Alexa等数字助理非常令人失望,因为它们根本不懂我们人类。它们需要懂点被心理学家称为「心智理论」(theory of mind)的东西,搞清楚别人的信念和意图。最近,计算机科学家开发出了一种新的 AI,这种 AI可以探测到其他计算机的「想法」,并预测它们的行动,这是机器之间以及机器与人之间灵活协作的第一步。

加州大学伯克利分校的发展心理学家 Alison Gopnik 表示,显然,要探索一个充满各种想法的世界,「掌握心智理论非常重要。」人在大约4岁的时候会了解到,他人的信念可能与现实不符,然后根据这个人的信念推断其接下来的行动。当前的计算机可以区分「开心」、「生气」等面部表情,这是一种与 「心智理论」相关的技能,但是它们对人类的情绪、动机知之甚少。

这一新项目的初衷是尝试让人理解计算机。AI使用的许多算法并不是完全由程序员完成的,而是依赖于机器在解决问题的过程中不断「学习」。计算机生成的解决方案通常是黑箱,由于算法过于复杂,人类往往难以理解。因此,DeepMind 研究科学家 Neil Rabinowitz 和他的同事创建了一个名为「ToMnet」的心智理论AI,并使其观察其他 AI,看看它能否了解其他AI智能体的工作原理。

ToMnet 由三个神经网络组成,每个网络包含一些小的计算单元和从经验中学到的连接,与人类大脑类似。第一个网络根据其他AI过去的行动学习它们的倾向。第二个网络理解其他AI的当前「信念」;第三个网络接收前两个网络的输出,并根据情况推测其他AI的后续行动。

研究中涉及的AI智能体是在虚拟房间中到处移动收集彩色箱子以获取得分的简单「角色」。ToMnet从上方观察整个房间。一次测试中有三种「角色」:一种看不到周围环境,一种记不住最近的步伐,一种可以看到也可以记住。看不到的智能体可能会沿着墙走,「失忆」智能体会移动到离它最近的物体处,而第三种能够构建子目标,以特定顺序有策略地抓取物体,得到更多分。DeepMind研究人员在本月于瑞典斯德哥尔摩举办的ICML大会上报告称:经过一番训练,ToMnet 不仅能够在几步之后识别「角色」的种类,还能够准确预测它们的未来行为。

最终测试证明,ToMnet 甚至可以理解持有错误信念的「角色」,这是训练它们掌握心智理论(人类和其他动物具备的心智理论)的关键阶段。在该测试中,一种「角色」被编程设定为近视,那么当计算机在游戏中途改变道路(超出上述「角色」的视力范围)时,ToMnet 可以准确预测到,近视的「角色」更可能坚持原来的路径,而视力好的「角色」则更倾向于调整路径,适应新的情况。

Gopnik 称,该研究以及ICML会议上证明 AI 可以根据它们对自己的了解预测其他 AI 智能体行为的另一研究,都是神经网络「惊人」自主学习能力的例证。但是这仍然无法使人工智能体达到人类儿童的同等水平,Gopnik 说道,AI 智能体很可能以接近完美的准确率完成错误信念任务,即使它们之前从未遇到过。

MIT 心理学家、计算机科学家 Josh Tenenbaum 也研究心智理论的计算模型。他认为ToMnet在推断信念方面比他团队研发出的系统更高效,后者基于更抽象的概率推论,而不是神经网络。但是ToMnet 的理解能力与训练所用语境相关性更强,因此它在全新环境中预测行为的能力欠佳,而 Josh Tenenbaum 的系统甚至儿童在这方面做得更好。Josh 称,未来两种方法结合或许会给该领域带来「真正有趣的方向」。

Gopnik 注意到这种具备社交能力的计算机不仅将改善人机合作,还会影响到人机之间的相互「欺骗」。如果一台计算机能够理解错误信念,那它就可能知道如何诱导人类相信它。希望未来的扑克机器人能够掌握 bluff(使诈)的艺术。

本文来源:机器之心,作者:Matthew Hutson


如若转载,请注明e科网。

如果你有好文章想发表or科研成果想展示推广,可以联系我们或免费注册拥有自己的主页

  • 人工智能
  • 神经网络
  • 心智理论
分享到
文章评论(0)
登陆后参加评论
作者 特斯拉

副研究员

中科院

活跃作者
  • 爱因斯坦 科研工作者 北京航空航天大学 博士
  • 梅西 本科生 北京工业大学 本科
  • 金陵 本科生 北京大学 本科


发布成功!

确 定 关 闭