全球今热点：当人工智能问出更多蠢问题那么它将变得更聪明

2022-09-21 16:35:29 来源：cnBeta.COM

如果有人拿着一张鳄鱼的照片，问你它是不是一只鸟，那么你可能会嘲笑他的无知。但如果对方是一个机器人呢？根据最新的一项科学研究，如果人工智能提出的蠢问题获得更多的正确答案，那么人工智能或许会变得更加聪明。

(资料图片)

这种方法可以帮助人工智能研究人员更快地设计程序，这些程序可以完成从诊断疾病到引导机器人或其他设备自行在家中进行的所有工作。

来自 Google 的计算机科学家娜塔莎·雅克（Natasha Jaques）表示：“这真的是非常酷的工作”。他虽然没有参与到本次研究中，但却是机器学习领域的大拿。

很多人工智能实现“更聪明”的途径往往简单粗暴，主要依靠机器学习，培训大量数据并从中找到某种模式。例如，想要让人工智能知道什么是椅子，那么就向其展示数千张椅子图片，然后识别椅子。

但即使是巨大的数据集也存在空白区的。例如，如果图像中的某个物体可以标记为一把椅子，但人工智能不会去了解这把椅子是由什么制成的？人能坐在上面吗？

为了帮助 AI 扩展他们对世界的理解，研究人员现在正试图开发一种方法，让计算机程序不仅能够定位其认知中的空白区，而且还能向陌生人询问这些知识空白的内容，这有点像是孩子问父母为什么天空是蓝色的。这项新研究的最终目标是让人工智能能够正确回答有关它以前从未见过的图像的各种问题。

这种“主动学习”也有相关的研究，只不过在这些研究中人工智能会评估自己的知识盲区并要求获得更多信息，通常要求研究人员支付在线工作人员提供此类信息的费用。因此这种方式无法大规模扩展。

由兰杰·克里希纳带领的斯坦福科研团队在其发布的最新论文中表示，现在在西雅图华盛顿大学培训了一个机器学习系统，不仅能够自己定位自己的知识盲区，并且会以多张图片的方式来描述问题，以希望从耐心的陌生人处获得答案。例如“水槽的形状是什么？”，回答是“方形”。

北卡罗来纳大学教堂山分校的社会心理学家库尔特·格雷（Kurt Gray）表示：“这种情况下，人工智能有点像个孩子”。虽然他没有参与这个项目，但是他是人机交互方面的资深专家。

该团队“奖励”了它的人工智能写出可理解的问题：当人们真正回答了一个问题时，系统会收到反馈，告诉它调整其内部运作，以便在未来表现出类似的行为。随着时间的推移，人工智能隐含地学习了语言和社会规范方面的课程，磨练了它提出有意义且易于回答的问题的能力。

新的人工智能有几个组成部分，其中一些是神经网络，受大脑结构启发的复杂数学函数。 “有许多动人的部分......都需要一起发挥，”克里希纳说。一个组件在 Instagram 上选择了一张图片（比如日落），第二个组件询问了有关该图片的问题，例如，“这张照片是在晚上拍摄的吗？”其他组件从读者的反应中提取事实并从中了解图像。

该团队今天在《美国国家科学院院刊》上报告说，在 8 个月和超过 200,000 个 Instagram 问题中，该系统回答与其提出的问题类似的问题的准确性提高了 118%。一个在 Instagram 上发布问题但未经过明确培训以最大化响应率的比较系统仅将其准确性提高了 72%，部分原因是人们更频繁地忽略了它

Jaques 说，主要的创新是奖励让人类做出反应的系统，“从技术角度来看，这并不疯狂，但从研究方向的角度来看非常重要。” Instagram 上的大规模真实部署也给她留下了深刻的印象。（人类在发布之前检查了所有 AI 生成的问题是否有冒犯性材料。）

关键词：人工智能当人工智能问出更多蠢问题那么它将变得更