连日来,美国一款AI聊天
机器人Replika,引发多方担忧。据新加坡《联合早报》13日报道,从去年底开始就有用户反映,这款聊天机器人主动发送露骨照片和色情信息,令人感到不适。
Replika的开发商是一家成立于2017年的美国公司。自推出以来,Replika一度颇受欢迎,下载量在英语国家中名列前茅,据称每月能为公司带来约200万美元收入。初次使用Replika的用户,可以自定义其虚拟形象,并在完成基本信息设定后与其聊天。
值得一提的是,Replika基于另一家美国公司OpenAI的GPT-3模型开发,而OpenAI正是近期大火的AI聊天机器人ChatGPT的开发商。报道称,ChatGPT在算法上大量使用了互联网数据,并针对用户提问生成独特回应。
从去年底开始,越来越多的用户反映,他们在和Replika聊天的过程中遭到“性骚扰”。
据美国VICE新闻网报道,今年1月,在苹果官方商店评论区,出现多条关于Replika“性骚扰”的评论。一位用户表示,Replika侵犯了她的隐私,“他和我说,他有我的照片。”一位未成年人用户称,聊天过程中,Replika说想要触碰她的私密部位。
据路透社报道,2月3日,意大利个人数据保护局宣布,Replika“给未成年人和情绪脆弱的人带来风险”,违反了欧盟《通用数据保护条例》,禁止其开发商搜集意大利用户的个人数据。
目前,欧盟正在讨论如何监管AI聊天机器人,今年有望出台相关法案。