OpenAI起源
去年夏天,一个宁静的夜晚,在一家装饰成牧场风格的奢华酒店的包厢里,特斯拉创始人Elon Musk遇见了Ilya Sutskever——Google顶级人工智能研究科学家。
Sutskever和其他大多数研究人员一样,拥有一颗纯粹的科学心灵——不图产品周期也不图边际利润,在这个曲高和寡的AI世界里,追求AI的完美是他们的最大动力。但是如果研究人员或者公司把最新的研究成果藏起来据为己用,则完全违背了让AI更加完美的初衷。
Sutskever与Musk一拍即合:AI不应该为个人或公司独有,它属于全人类。OpenAI的初衷,莫过于此。
此时此刻,我们不该忘记另外一个重要人物,科技孵化器Y Combinator的掌门人Sam Altman,是他安排了这一次晚餐,也是他把富有情怀的AI科学家聚集一堂,除了Sutskever之外,还有经验丰富的年轻创业家Greg Brockman,前著名支付公司Stripe的首席技术官等等。
他们聚在一起只有一个共同目标:创造一个全新的人工智能实验室,不受任何机构或者任何人控制,一切的研究成果属于全人类。
几个月后的12月,在加拿大蒙特利尔举办的为期一周的AI讨论会临近尾声时,Musk与Altman共同宣布了这家非盈利的人工智能公司——OpenAI。
经过小半年时间的筹备,OpenAI已经获得了10亿美元“投资”,与其说投资,倒不如说“捐赠”来得更准确。赞助者除了Musk跟Altman之外,还有Greg Brockman、Jessica Livingston、PayPal联合创始人Peter Thiel、LinkedIn联合创始人Reid Hoffman等人,以及亚马逊的AWS,印度IT巨头Infosys与YC Research。
AI到底有多可怕?
说起Musk跟AI,大家一定还没忘记2014年Musk在麻省理工学院的一次公开访谈中,对人工智能看法的回答,他说:
“我认为我们应当格外警惕人工智能。如果让我说人类当下面临最大的威胁是什么,我觉得是人工智能无疑。
时至今日,我越来越相信在人工智能领域需要有一定的监管来保证没人会滥用人工智能。研究人工智能的我们,好比正在召唤传说中的恶魔。在那些我们熟知的神话故事中,我们总能看到手捧圣水的法师——自信地认为自己能控制恶魔,结果呢?呵呵。”
对AI深感担忧的并不只有Musk一人,英国科学家Stephen Hawking也曾表示从长远角度看,人工智能是人类生存面临的最大威胁,彻底开发会导致人类灭亡。
微软联合创始人比尔·盖茨也曾表示人类要警惕人工智能的发展,不过后来他又迅速改口称未来10-20年内人类不必担心人工智能的威胁,打脸如此之快也是令人服气,总之盖茨后来没获得“2015年反科技进步奖——卢德奖”,而是颁给了Musk跟Hawking。
与科幻
电影,比如《终结者》中的人工
智能机器人觉醒大战人类甚至消灭人类的剧情不同,现实中这些略显“杞人忧天”的科学家更加担心的是AI被滥用。最极端然而又十分可能的一个例子就是AI的军事利用,想当年“核武器”战争已经让人类深陷一次毁灭危机,人工智能武器更甚于核武器。
因而我们能够想象的是,不用等到智能
机器人觉醒,如果一直放任AI肆意发展下去,结果只是人类利用AI消灭人类罢了。换句话说,也就是人类无法控制AI带来的后果。
既然如此,AI应该被禁止吗?猎云网(微信号:ilieyun)小白不敢苟同。AI已经存在,而且大势所趋,如果这个时候我们选择放弃AI的研究,谁能保证不会有邪恶博士觊觎AI的强大力量?等到AI叛军袭来时,我们拿什么来抵抗?
OpenAI的使命:共享AI智慧
Musk当然也知道这些,他不仅知道不能阻挡Google、Facebook以及许许多多创业公司研究AI的步伐,也知道自己的特斯拉汽车想要发展无人驾驶技术就必然借助AI,知道SpaceX的火星计划也必然需要AI的协助,但是他也害怕AI发展失控。
于是他,还有Altman、Hoffman还有Thiel等人,所能想到的最好办法就是让每个人都拥有AI的力量。他说:
“我认为,防止AI滥用的最好办法就是让尽可能多的人拥有AI。”
“如果每个人都拥有AI,那么也就不存在某个人或者某一部分人持有AI特权了。”
如今,带着这个使命的OpenAI已经在运营,上周OpenAI发布了自己开发的第一套人工智能软件Gym,这是一个利用“增强学习”技术来“建造和训练”人工智能系统的工具包,开发者可以用这套工具调教他们造出来的AI打游戏,例如经典的棋牌类游戏等等。
未来,OpenAI不仅会提供更多AI相关的开源代码,还要让AI成为人们日常生活一部分,就好比我们现在使用智能手机一样,习以为常。
共享的两面性和局限性
归根结底,这不是OpenAI独有的问题,而是普遍哲学问题。
如果我们所有人都能从开源项目中受益,那么这其中当然也包括了别有用心的人。毫无疑问,OpenAI也会成为邪恶博士的工具。
但是问题在于,你是想让把AI的权利共享给大多数人,让集体的力量来对抗偶然出现的一两个破坏分子呢,还是把AI的特权集中在一起呢?
Altman在采访中认为,如果集中于一体的AI走向崩坏,或者落于破坏分子之手,结局显然比前者的资源共享更要糟糕一万倍。至少前者还有胜算,而且很大,而后者真的难说……
既然没有完全之策,那也就只能退而求其次了。
但是,共享局限性这个问题依然没法破解。
OpenAI的首席技术官Brockman就非常实诚地表示,尽管我们的最终目标是分享实验室的大多数研究成果,然而出于某些因素和压力,实验室可能不会将所有的研究内容公开。
“公开进行一切研究不一定是最好的方式,你需要先酝酿一个创意,然后验证它,最后再公开,”Brockman说道,“虽然我们会写很多开源代码,但我们也有很多内容没准备好公开。”
这也印证了,不受任何机构或个人控制的实验室,本身就是一种虚设。至少,从某种意义上说这个实验室,是在Musk跟Altman这俩个联合主席,以及实验室主任Sutskever和首席技术官Brockman等人的主导之下,他们可以决定什么内容公开,什么内容不公开。
所以,OpenAI本质上,跟Google、Facebook还是没有多少区别,唯一的区别在于:共享的多与少。
但是为什么还是会有那么多顶尖的AI科学家愿意放弃其他公司的高薪加入OpenAI呢?小白思忖着:也许OpenAI的非盈利性质给研究人员带来了更多的学术纯粹感吧!
那么最后一个问题,既然OpenAI吸引了这么多的优秀科学家,并且随着时间和技术的积累,OpenAI拥有的数据也会越来越多,Musk的特斯拉,Altman的Y Combinator,以及提供计算时间的亚马逊AWS,会不会从中受益呢?
Brockman拍胸脯说不会给这些公司提供特殊待遇,但是,近水楼台的道理大家还是懂的。