不过,随着更多的调查浮出水面,事实是媒体过于恐慌了,Facebook并没有关闭这个系统,而是重新设定了正确的激励。
基本上,人工智能代理确实开发了他们自己的语言(一种速记),然而,他们总是致力于解决分配给他们的人类问题。
Snopes与来自乔治亚理工学院的访问研究科学家Dhruv Batra进行了交谈,他说,他们在编程上犯了一个错误。
他还补充说:“像人类一样说话的AI代理没有被提供任何奖励,所以他们开始产生分歧,并最终将清晰的词汇重新排列成看似荒谬的句子,代理将脱离可以理解的语言,并为自己发明密语。”
(多家外媒报道Facbeook关闭这个自创语言的聊天机器人)
(随后,最新调查报道称,AI聊天机器人是无辜的,并没有被关闭)
AI聊天机器人创造了自己的速记,就像人类一样,所以Facebook关闭了程序的说法是错误的,他们只是改变了实验的参数,这和关闭东西不一样。
该研究的首席作者Michael Lewis告诉Snopes:“没有恐慌,项目也没有关闭,我们的目标是建立可以与人交流的机器人。在一些实验中,我们发现他们没有像人们那样使用英语单词,所以我们停止了这些实验,并使用了一些额外的技术来让机器人按照我们的意愿工作。分析奖励功能和改变实验的参数不等同于‘拔掉’或‘关闭AI’。如果是这样的话,每个AI研究员每次在机器上停止工作时都会‘关闭’AI。”
在Facebook的实验室里发生的这件事,更接近于一个线索,说明人工智能并不完美,而这件事也不是机器主宰世界的初步迹象。