AI统治围棋棋盘的时代迎来了一丝变数。
据媒体报道,近日,美国围棋选手KellinPelrine击败了顶级AI围棋
机器人。
Pelrine与这台AI对弈了15场,其中1局是在计算机辅助下进行的测试局,其余14局没有计算机辅助。最终,Pelrine取得14场全胜的辉煌战绩。
自2016年谷歌旗下的AI围棋机器人AlphaGo击败世界围棋冠军李世石以来,人类旗手一直在与AI的对决中处于下风。李世石在输给AlphaGo的三年后退役。他绝望地把AlphaGo称为“一个无法被打败的东西”,认为属于人类棋手的时代已经结束。
但据媒体报道,被Pelrine打败的AI围棋机器人,棋力与AlphaGo不相上下。围棋段位远低于李世石的Pelrine究竟找到了什么样的致胜法宝?
靠AI打败AI
实际上,Pelrine之所以能打败AI,靠的也是AI。
Pelrine背后是美国公司FARAI。这家公司开发了一个发掘bug的围棋AI,然后让它和AI围棋机器人KataGo下了一百多万盘棋,专门寻找可以让人类棋手利用的盲点。结果真的找到了AI的盲点:AI棋手分不清“声东击西”。
简单来说,FARAI的策略就是不断利用角落的动作分散AI的注意力,同时,慢慢将中央棋子串成一个大圈来包围AI棋手。
Pelrine表示,对人类来说,FARAI的策略很容易就会被发现;然而,哪怕是到包围圈即将完成的时候,AI棋手也没有注意到自己的弱点。
由于AI围棋机器人的底层架构均来自谷歌旗下的AI研究机构DeepMind,所以FARAI的团队猜测,这处bug可能是通用的。
此前,Pelrine已经利用这个bug击败了顶级AI围棋机器人LeelaZero。
AI系统的缺陷
加州大学伯克利分校计算机科学教授StuartRussell表示,这些最先进的AI围棋机器人被发现存在弱点,表明支撑当今最先进AI的深度学习系统存在根本缺陷。
这样的缺陷是当今大多数广泛使用的人工智能系统所共有的,包括OpenAI创建的ChatGPT聊天机器人。
StuartRussell指出,AI只能“理解”它们过去遇到的特定情况,而无法像人类一样进行“概括”:
“这再次表明,我们过于草率地认为AI具有超人的智力水平。”
研究人员对媒体表示,AI围棋机器人之所以会输,可能因为“声东击西”这一策略很少被使用,意味着AI系统没有在足够多的类似棋局中训练过,无法做出防备。
FARAI的CEOAdamGleave表示,如果像AI棋手那样遭遇大量对抗性攻击,人工智能系统的缺陷很容易就会暴露,但即便如此,市场对AI
应用的热情不减:
“我们看到非常大的AI系统几乎没有经过验证就被大规模部署。”