AI究竟是如何做出决定的?谷歌研究员在研究

来源:网易科技报道  2018-03-08 15:25 0
分享到:
导语

“在某种程度上,随着这些网络变得越来越复杂,要理解它们为什么做出决策将变得极其困难,”他说道,“这有点像试图理解人类为什么做出某些决策。”

AI究竟是如何做出决定的?谷歌研究员在研究

左边是呈现给神经网络的图像,该网络被训练来鉴别图像中的物体,比如辨别图像里是否包含花瓶或者柠檬。右边是可视化的图像,显示神经网络中间的一层在图像的每个位置检测到的东西。神经网络似乎在检测花瓶状图案和柠檬状物体。

网易科技讯3月8日消息,据《纽约时报》报道,所谓的神经网络大大推动了人工智能的发展,但理解计算机如何作出决策却十分困难。谷歌的研究人员正在学习机器是如何学习的。

机器正在开始自己学习执行任务。它们在鉴别面孔,识别口语词汇,查看医学扫描图,甚至展开它们自己的对话。

AI究竟是如何做出决定的?谷歌研究员在研究

原始图像以及神经网络看到它后形成的三张可视化图像。网络的第一层主要是检测边缘和颜色。其他的层开始识别更为复杂的概念,如花朵、花瓶和柠檬。

所有这些任务都是通过所谓的神经网络来完成的,这些网络属于复杂的计算机算法,是通过分析海量的数据来学习执行任务。但是,这些神经网络带来了一个科学家正试图解决的问题:判断机器如何得出结论并不总是一件容易的事情。

周二,谷歌的一个团队朝着解决这个问题迈出了一小步。他们所展示的新研究成果,大概描述了显示机器如何作出它们的决策的技术。

AI究竟是如何做出决定的?谷歌研究员在研究

神经元组自动学会一起表示图像中的概念。五个神经元组似乎分别对应于花朵、花瓶口、瓶身、背景和柠檬。热图显示每个神经元组在图像上的位置。

谷歌研究员克里斯托弗·奥拉(Christopher Olah)指出,“即使只是看到机器作出决策的一部分过程,你也能够形成很多关于它失效的潜在方式的了解。”

越来越多的AI研究人员在开发更好地理解神经网络的方法。目前供职于打车服务巨头Uber人工智能实验室的美国怀俄明州立大学教授杰夫·克兰(Jeff Clune)将这类技术称作“人造神经科学”。

AI究竟是如何做出决定的?谷歌研究员在研究

神经网络两个不同的层上的神经元组和输出分类。线条显示哪些神经元组支持或抑制后面的神经元组或者输出分类。例如,“柠檬”分类得到了一个黄色的柠檬式的组的强力支持。

理解这些系统如何运作将变得更加重要,因为它们所做的决策目前是由人类来作出的,比如谁获得工作,自动驾驶汽车如何应对紧急情况。

神经网络概念最早在20世纪50年代被提出,它旨在模拟大脑中的神经元网络。但那只是一个粗略的类似。这些算法真的是一连串的数学计算,每个操作都代表一个神经元。谷歌的新研究,意在以高度可视的方式展示这些数学计算是如何执行离散的任务的,如识别照片中的物体。

AI究竟是如何做出决定的?谷歌研究员在研究

“花瓶”分类获得了分别代表花、花瓶口和背景的神经元组的支持。

在神经网络内,每个神经元都会去识别照片中可能出现的特定特征,比如从特定角度从右到左弯曲的线条,或者合并形成更大形状的多条线条。谷歌希望提供工具来显示每个神经元在试图识别什么东西,哪些神经元识别成功,以及它们的努力如何共同判断照片中实际上有什么——可能是小狗、燕尾服或小鸟。

奥拉表示,谷歌正在讨论的这种技术可能也有助于判断神经网络为什么容易出错,以及在写情况中解释它是如何习得这种行为的。包括克兰在内的其他研究人员认为,该类技术还有助于最大限度地减少“对抗样本”的威胁,比如某人可能通过篡改图像来欺骗神经网络。

研究人员坦言,这项研究仍处于起步阶段。同样供职于Uber人工智能实验室的Jason Yosinski认为谷歌的技术理念“是顶级的”。 Uber的AI实验室产生于该公司收购回来的初创公司Geometric Intelligence。不过Jason Yosinski也警告称,理解计算机思维可能永远都不会变容易。

“在某种程度上,随着这些网络变得越来越复杂,要理解它们为什么做出决策将变得极其困难,”他说道,“这有点像试图理解人类为什么做出某些决策。”

编辑:jiangjing
研究员 研究 谷歌
分享到:

财经网微评论0人参与)

查看更多>>
匿名评论
  • 全部评论(0条)
查看更多>>
  • 热门排行
  • 大家喜欢
  • 据悉,20位幸福乡村带头⼈22-24日参加快手2018“家乡市集”活动,进行特色农产品现场售卖。2019年1月,20位老铁将再次齐聚北京,进行第二期幸福乡村创业学院的商业培训。

  • 9月12日,作为家用电器领军科技企业的戴森在北京推出三款全新产品:全新戴森LightcycleTM台灯、戴森Pure Hot+CoolTM空气净化暖风扇和戴森360 HeuristTM 智能吸尘机器人,该系列产品主打对室内环境进行自动监测、诊断判析并作出反应的性能,通过先进的硬件和软件技术,让用户自定义设置和控制居住环境。

  • 未来,CNBPA将通过定期举办“云原生技术实践峰会”、线下闭门讨论等,持续推进云原生技术产业化落地,推进行业标准化工作,建立云原生用户社区,发展优秀实践会员,推广领先解决方案,构建技术带动实践、实践反哺技术的良性生态,提升云原生技术在市场的影响力。

  • 9月20日,2018国际数字经济博览会在石家庄举行,这是全国首个以数字经济为主题的综合性展会,以“数字经济、引领未来”为主题,推动数字经济与产业的深度融合。字节跳动公司作为高新科技企业代表亮相博览会,展示公司在人工智能技术、企业社会责任等领域取得的最新进展。