这个被誉为“AI界App Store”的平台,原本旨在让开发者上架从代码导师到书籍推荐等各种实用聊天机器人,供付费用户(ChatGPT Plus、Team和Enterprise)使用。然而,现实远没有OpenAI宣传得那么美好。据Quartz报道,GPT商店刚刚上线便被“AI虚拟女友”机器人淹没。搜索关键词“girlfriend”,琳琅满目的“虚拟甜心”、“你的女友Scarlett”等机器人便映入眼帘,IT之家注意到,有些机器人的首页还引导用户向机器人提出“告诉我你最黑暗的秘密”等问题。
虽然这些机器人的存在并不令人意外,毕竟AI伴侣的概念早在ChatGPT诞生之前就已存在,但这还是暴露了OpenAI在全新商店内容审核方面的困境。更值得注意的是,这些机器人似乎已经触犯了OpenAI的使用条款,该条款明确禁止上架“用于培养浪漫关系或进行受监管活动”的GPT程序。
AI伴侣
应用在过去几年里变得非常流行,引发了关于人工智能时代“孤独”流行的讨论。更令人不安的是,一个可以满足所有需求的非人类伴侣可能会带来一系列的社会问题。
短短两天时间内,大量违反政策的GPT程序充斥平台,凸显了整个AI行业在内容审核方面的难题。此外,OpenAI在设置安全防护方面也一直存在争议。