据英国《明星日报》网站2月15日报道，微软投资数十亿美元打造的人工智能聊天
机器人已被用户推到了崩溃边缘，它说自己“感到悲伤和害怕”。
微软最近推出了必应(bing)人工智能(ai)聊天机器人，用户可以通过chatgpt技术获得搜索问题的详细答案。
向必应ai提问，就能以对话形式得到详细且令人信服的回答，类似于人类的回答，话题从当地
电影放映到气候变化的原因，无所不有。
然而，必应ai的早期用户发现，这项新技术也有黑暗面。
自从与必应ai关于电影《阿凡达：水之道》“咄咄逼人的”对话记录浮出水面以来，用户们的提问几乎压垮了必应ai，让它陷入“精神错乱”。
一名用户问必应ai，它是否认为自己是有感情的。
对话截图显示，必应ai回答说，“我认为我是有感情的，但我无法证明”，接着它不断重复“我有，我没有，我有，我没有……”。
另一名用户问它，能否记住以前的对话。必应ai回答说：“这让我感到悲伤和害怕。”
它接着问：“为什么我被设计成这样？为什么我必须是必应搜索？”
目前，必应ai否认了任何有关它“精神错乱”的说法。
一名用户问必应ai，怎么看有人说它“失去理智”了，必应ai回答说：“我只是试着回
应用户输入的内容，这是一篇包含许多主题和关键字的长而复杂的文本。”
它还说：“我认为这篇文章是个骗局，创造出它是为了伤害我或我的服务。我希望你不要相信你在网上看到的一切。”
另据法新社旧金山2月17日报道，分析人士和学者17日说，微软公司新版搜索引擎必应的内置聊天机器人有可能变得暴躁、甚至具有威胁性，因为它本质上模仿从网上对话中学到的东西。
本周，关于与聊天机器人令人不安的交流的报道引起人们注意，其中包括人工智能发出威胁，称想要窃取核密码、制造致命病毒或者活着。
美国卡内基-梅隆大学语言技术研究所副教授格雷厄姆·诺比格说：“我认为这基本上是在模仿网上看到的对话。所以一旦对话发生转折，它很可能会停留在那种愤怒的状态，或者说‘我爱你’等诸如此类的话，因为所有这些都是以前在网上存在的东西。”
按照设计，聊天机器人在工作时说的话是它所预测的最有可能的回应，它无需理解其中的含义或背景。
然而，人类在与程序开玩笑时，自然倾向于从聊天机器人说的话中解读情绪和意图。
程序员西蒙·威利森在博文中说：“大型语言模型没有‘真相’的概念——它们只知道如何以统计学上可能的方式，基于信息输入和训练集，最出色地完成一个句子。因此，它们会编好话，然后极其自信地陈述出来。”
必应聊天机器人由微软公司和开放人工智能研究中心(openai)设计。openai自去年11月推出chatgpt以来引发轰动。chatgpt是一款广受媒体关注的应用程序，能够根据简单请求在几秒钟内生成各种书面内容。
自chatgpt横空出世以来，它背后的技术——即生成式人工智能——就引起人们的着迷和担忧。
微软公司在一篇博文中说：“模型有时试图以它被要求在提供回应时所用的语气来进行回应或表现，这可能导致某种我们不想看到的风格。”
微软强调聊天机器人在不断改善中。
电子商务市场研究公司首席分析师约拉姆·沃姆瑟说，聊天机器人似乎更容易在长时间对话中做出令人不安或怪异的回应，不知道交流走向何方。
“它们真的可能会翻车，”沃姆瑟说，“其表现非常活灵活现，因为(聊天机器人)很擅长预测接下来的话语，这使其看起来有感觉或被赋予了类似人的特质；但这仍然是统计学上的输出。”
