热搜: 佳士科技irobot开云电竞官网下载app机器人机器人产业联盟ABB机械手发那科码垛机器人机器人展览

美国联邦贸易委员会对 OpenAI 展开全面调查,涉及 ChatGPT 泄露数据、编造答案

日期:2023-07-14 来源:IT之家 评论:0
标签: AI 科技 创新
  据华盛顿邮报报道,美国联邦贸易委员会(FTC)近日对总部位于旧金山的公司OpenAI展开了全面调查,原因是该公司开发的流行聊天 机器人ChatGPT可能违反了消费者保护法,将个人声誉和数据置于危险之中。

e027abe9-280b-46fe-948d-600609ba9275
  FTC向该公司发出了一份20页的记录要求(demand for record),要求其说明如何应对其AI模型所带来的风险,这项调查对OpenAI在美国的业务构成了重大的监管威胁。
  FTC强调,尽管政府和国会没有明确规定全面的监管规则,但现有的消费者保护法仍然适用于AI。参议院多数党领袖查尔斯・E・舒默预测,新的AI立法仍需数月时间才能出台。
  FTC向OpenAI提出的记录要求标志着该机构执行这些警告的第一步具体行动。如果FTC发现其违反消费者保护法的证据,就可以对其处以罚款,并规定该公司如何处理数据。IT之家注意到,FTC此前已经确立了自己作为硅谷主要监管机构的地位,对me ta、亚马逊和推特等公司因涉嫌违反消费者保护法而处以了重罚。
  在其记录要求中,FTC特别要求OpenAI提供关于其产品对个人做出虚假、误导、诽谤或有害陈述的任何投诉的详细描述。FTC正在调查OpenAI是否从事了导致消费者声誉受损的不公平或欺骗性行为。此外,该机构还要求提供与3月份发生的安全事件相关的记录,该事件泄露了一些用户的支付相关信息和聊天记录。FTC正在调查OpenAI的数据安全做法是否违反消费者保护法。OpenAI此前在一篇博客文章中声称,只有极少数用户将自己的数据泄露给其他人。
  FTC向OpenAI寻求的信息中,还包括任何评估消费者对其AI工具生成的输出的准确性和可靠性的理解的研究、测试或调查,该机构重点关注OpenAI的聊天机器人生成的可能损害个人声誉的虚假陈述。例如,ChatGPT此前错误地指控一位广播电台脱口秀主持人涉及法律索赔,OpenAI为此遭到诽谤诉讼。ChatGPT还编造了一个涉及虚构故事和《华盛顿邮报》(The Washington Post)不存在的文章的性骚扰丑闻。除了解决这些问题外,FTC还要求OpenAI提供其产品、广告实践、新产品发布的政策和程序以及减轻大型语言模型相关风险的安全措施的详细细节。该机构还要求OpenAI提供用于训练其模型的数据的详细描述,以及用于解决其产生“幻觉”或编造答案的方法。
  FTC对OpenAI的调查意味着着该公司面临重大监管挑战,OpenAI的ChatGPT的快速增长及其产生有害内容的潜力引起了联邦贸易委员会的注意,该委员会寻求执行现有的消费者保护法,这项调查的结果可能有助于塑造美国人工智能监管的未来。
声明:凡开云电子链接 来源注明为其他媒体来源的信息,均为转载自其他媒体,并不代表本网站赞同其观点,也不代表本网站对其真实性负责。您若对该文章内容有任何疑问或质疑,请立即与开云客户(www.www.wykobounce.com)联系,本网站将迅速给您回应并做处理。
电话:021-39553798-8007
更多> 相关开云电子链接
0 相关评论

推荐图文
推荐开云电子链接
点击排行
Baidu
map