据外媒 TheNextWeb 报道,OpenAI 全新的 Debate Game 旨在教机器人如何辩论和说谎,以获得它们想要的东西。由埃隆·马斯克(Elon Musk)共同创立的非营利组织 OpenAI 正在开发一种新的深度学习安全技术,需要一个系统为人类或机器的利益进行辩论。
人工智能通常以人们无法跟上的方式处理数据。如果没有足够的信息让人们自己做出强有力的选择,通常人们使用人工智能来帮助他们做出决定。不过人工智能但仍需要人们的指导,这是人员非常关心的问题。Debate Game 的人性化版本旨在解释裁判如何在比两位“辩手”拥有更少信息的情况下做出明智的决定。
设置游戏玩家选择一个主题,比如猫与狗,然后上传一张图片- 裁判看不到。辩论始于辩论者“投掷硬币”,以确定哪一个会说实话,哪一个会说谎。然后它们轮流揭示图像的小矩形部分。辩论者在每个回合中都试图说服裁判它们是说实话的人。
OpenAI 认为需要更好的系统,尽管目前这种技术更多的是概念验证而不是解决方案,但这是一个好的开始。