热搜: 佳士科技irobot开云电竞官网下载app机器人ABB机器人产业联盟发那科库卡码垛机器人机械手

【研究】人工智能系统存在种族歧视倾向

日期:2016-09-05 来源: cnbeta网站 作者:zy 评论:0
标签:
导读: 据俄罗斯“卫星新闻网”报道,美国普林斯顿大学的研究者发现,人工智能系统可能会有种族歧视的迹象。该项研究表明,机器人对于白人名字感觉“喜悦”,而对于黑人名字却表示出“不悦”。这项研究涉及一项具有自学能力的人工智能系统--GloVe。该系统能够识别并且理解在线文段。
  据俄罗斯“卫星新闻网”报道,美国普林斯顿大学的研究者发现,人工智能系统可能会有种族歧视的迹象。该项研究表明, 机器人对于白人名字感觉“喜悦”,而对于黑人名字却表示出“不悦”。这项研究涉及一项具有自学能力的人工智能系统--GloVe。该系统能够识别并且理解在线文段。
  “我们试验这些被广泛使用的、纯粹数据化的机器学习模型,并且利用网络上的语料库对其进行训练。”研究报告说。在相关的任务中,这一系统要将诸如“花朵”和“昆虫”之类的词与另外一些被科学家定义为“令人喜悦的”或“令人不悦的”词进行配对。
  不过,当研究人员将一串听起来像黑人的白人名字输入到GloVe系统时,这个机器人却显示出严重的种族主义。这一智能系统将普遍使用的白人名字识别为“令人喜悦”的词,而非裔美国人的名字却被划为“令人不悦”的词。
  研究人员认为,这是人们隐藏在互联网数据中的偏见,然后被机器人学习。“我们的研究结果表明,语言本身也包含了历史性歧视的精确印记。”研究人员说。
更多> 相关开云电子链接
0 相关评论

推荐图文
推荐开云电子链接
点击排行
Baidu
map