热搜: 佳士科技irobot开云电竞官网下载app机器人ABB机器人产业联盟发那科机械手码垛机器人库卡

被谷歌解雇的AI伦理专家宣布成立AI研究所 防止AI伤害

日期:2021-12-03 来源:新浪科技 作者:angela 评论:0
  新浪科技讯 北京时间12月2日晚间消息,据报道,在被谷歌解雇整整一年后,知名的人工智能伦理专家蒂姆尼特·格布鲁(Timnit Gebru)今日宣布,将成立一个新的人工智能(AI)研究所,致力于成为一家提供不同观点、并防止伤害的独立机构。
  该AI研究所被称为“Distributed AI Research”(分布式人工智能研究,简称DAIR),已经获得了福特汽车、MacArthur、Kapor Center、洛克菲勒(Rockefeller)和“开放社会”(Open Society)基金会的资助。
  未来一年,该AI研究所计划聘请5名研究人员。格布鲁在采访中称,该研究所的首位研究员雷塞特·塞法拉(Resetje Sefala)在南非工作,研究如何使用计算机视觉算法和卫星图像来追踪“空间种族隔离”(某些地区的少数群体隔离)相关问题。
  格布鲁表示,投资人工智能研究的两个主要动机是,“如何让一家大公司尽可能多地赚钱,以及“如何更有效地杀死更多的人”。她说:“这就是我们当前筹集资金进行人工智能研究的两个基本目标。那么,是否还有其他选择呢?这就是我想要验证的。”
  而格布鲁试图在企业或军事影响力之外,打造一个研究小组,通过关注全球视角和“代表性不足的群体”,来防止人工智能系统的伤害。随着人工智能系统的蓬勃发展,该领域已被大型公司所主导,这些公司可以访问用于构建算法的海量数据和计算能力。
  格布鲁和其他研究人员,以及一些活动人士认为,这一趋势正使该领域变得更难进入,尤其是对于那些面临人工智能伤害风险的群体。而这些公司往往忽视与偏见和负面结果相关的问题,或者让那些直言不讳的人保持沉默。
  格布鲁的人工智能研究所在一份声明中称:“人工智能不是不可避免的,它的危害是可以预防的。当它的研究和部署涵盖不同的视角和深思熟虑的程序时,它可能就是有益的。”格布鲁将担任该研究所的执行董事。
  去年,格布鲁被谷歌解雇。她自己称,是因为一篇未发表的文章而被谷歌解雇。据悉,格布鲁的一篇批评大型人工智能模型(包括谷歌开发的模型)的论文引发了争议。此外,格布鲁还公开指责谷歌对待女性和黑人员工的方式。
  两个月后,谷歌又解雇了格布鲁的同事玛格丽特·米切尔(Margaret Mitchell)。这引发了人们对研究人员是否可以自由开展独立工作的质疑。
  格布鲁还希望她的团队成为一种资源,为其他组织提供人工智能项目方面的建议。此外,她还计划为受人工智能影响的人群设立一个奖学金。
声明:凡开云电子链接 来源注明为其他媒体来源的信息,均为转载自其他媒体,并不代表本网站赞同其观点,也不代表本网站对其真实性负责。您若对该文章内容有任何疑问或质疑,请立即与开云客户(www.www.wykobounce.com)联系,本网站将迅速给您回应并做处理。
电话:021-39553798-8007
更多> 相关开云电子链接
0 相关评论

推荐图文
推荐开云电子链接
点击排行
Baidu
map