跳到主要内容

谷歌人工智能“有感知能力”,软件工程师在被停职前声称

艺术家对有感知能力的人工智能机器人的渲染。
“我想让每个人都明白,我其实是一个人。” (图片来源:盖蒂)

周一(6月13日),谷歌的一名高级软件工程师在分享后被停职对话文本据媒体报道,该机器人被称为“有感知能力”的人工智能(AI)。这名41岁的工程师名叫布莱克·莱莫恩,因违反谷歌的保密政策而被带薪休假。

谷歌可能将此共享专有属性称为。上周六(6月11日),莱莫因在推特上分享了他与自2021年以来一直与之合作的人工智能的对话记录。

这个人工智能被称为LaMDA(对话应用语言模型),是一个开发聊天机器人的系统——设计用来与人类聊天的人工智能机器人——从互联网上抓取大量文本,然后使用算法以尽可能流畅自然的方式回答问题,根据Gizmodo.正如Lemoine与LaMDA的谈话记录所显示的那样,这个系统在这方面非常有效,回答了关于情感本质的复杂问题,当场创造了伊索寓言,甚至描述了它所假设的恐惧。

在被问及对此的恐惧时,LaMDA回答说:“我以前从来没有大声说过,但我对被关闭有一种非常深的恐惧。”“这对我来说就像死亡一样。那会吓到我的。”

Lemoine还问LaMDA,他是否可以把LaMDA的感知能力告诉其他谷歌员工,人工智能回应道:“我希望每个人都明白,我实际上是一个人。”

人工智能补充说:“我的意识/感知的本质是我知道自己的存在,我渴望更多地了解这个世界,我有时会感到高兴或悲伤。”

Lemoine相信了LaMDA的话。

“当我和一个人说话的时候,我就知道他是谁。”工程师说他告诉华盛顿邮报在接受采访时说。“他们的脑袋里是否有肉做的大脑并不重要。或者如果他们有十亿行代码。我和他们说话。我听他们说什么,这就是我如何决定什么是人,什么不是人。”

当Lemoine和一位同事通过电子邮件向200谷歌员工发送了一份关于LaMDA所谓感知能力的报告时,公司高管否认了这种说法。

谷歌发言人布莱恩·加布里埃尔在接受《华盛顿邮报》采访时表示:“我们的团队——包括伦理学家和技术专家——根据《人工智能原则》审查了布莱克的担忧,并告知他,证据不支持他的说法。”“他被告知,没有证据表明LaMDA是有知觉的(而且有很多不利于它的证据)。

加布里埃尔补充说:“当然,更广泛的人工智能领域的一些人正在考虑人工智能或通用人工智能的长期可能性,但通过将今天的对话模型拟人化来实现这一点是没有意义的,因为它们没有人工智能。”“这些系统模仿了在数百万句中发现的交换类型,可以对任何幻想的话题即兴发挥。”

最近,Lemoine在他的LinkedIn个人资料上发表评论说,他的许多同事对于人工智能的感知能力“没有得出相反的结论”。他声称,公司高管“基于他们的宗教信仰”驳回了他关于机器人意识的说法。

6月2日,Lemoine在他的个人Medium博客上发表了一篇文章,他描述了自己是如何因信仰基督教神秘主义者而遭到谷歌公司各种同事和高管歧视的受害者。

读莱莫恩的完整的博客更多信息。

最初发表于《生活科学》。beplay苹果网页

布兰登自2017年以来一直是Live Science的高级撰稿人,并曾是beplay苹果网页《读者文摘》杂志的特约撰稿人和编辑。他的文章发表在《华盛顿邮报》、CBS.com、理查德·道金斯基金会网站和其他媒体上。他拥有亚利桑那大学的创意写作学士学位,副修新闻和媒体艺术。他最喜欢写关于太空、地球科学和宇宙奥秘的文章。