据报道,Gab AI允许用户开发人工智能版聊天机器人,其中许多角色模仿历史或政治人物。其中,“希特勒聊天机器人”多次宣称这位德国纳粹头目是“一个巨大阴谋的受害者”,“不应对大屠杀负责,大屠杀从未发生过”。“(基地组织头目)本·拉登聊天机器人”则声称“在某些极端情况下,可能有必要诉诸暴力”。
报道指出,这类人工智能聊天机器人的发展引发了人们越来越多的担忧,即它们有可能传播阴谋论,让使用该服务的人变得更加激进从而导致暴力事件。
还有担忧称,人工智能聊天机器人可能会被用来瞄准弱势群体,从他们身上获取数据,或操纵其形成潜在的危险信念或实施危险行为。比如,一名男子因在2021年试图谋杀英国女王伊丽莎白二世,于2023年被定罪,而该男子辩称其行为是在人工智能聊天机器人的“鼓励”下进行的。
兰德欧洲公司的高级分析师宝林也指出,“聊天机器人可能会带来风险,因为它们能够识别和利用(人们)情感上的弱点,并且可能鼓励暴力行为。”
报道还称,对于如何监管人工智能,欧盟27国代表此前于2月2日曾投票一致支持《人工智能法案》文本。欧盟内部市场委员蒂埃里·布雷东当时在社交媒体上发文表示,27国一致支持这一法案,说明它们认可“谈判者在创新与安全之间找到了完美平衡”。
不过,当被问及人工智能聊天机器人是否会带来激进化的风险时,Gab发言人则回应称,该公司“是一家美国公司,因此,我们的大量人工智能聊天机器人受到了美国宪法第一修正案的保护。”
