IT之家从安全公司报道中获悉,由于平台的令牌信息写死在API中,因此黑客可以直接从Hugging Face及GitHub的存储库(repository)获得平台上各模型分发者的API令牌(token),安全人员一共从上述平台中找到1681个有效的令牌。
▲图源安全公司Lasso Security
经过一步分析资料,安全人员获得了723家企业组织的帐号,其中包括me
ta、微软、谷歌、VMware及Hugging Face官方等。其中655个令牌具有写入权限,其中77个还能写入多个组织,令研究人员得以全权控制多家知名公司的模型库,例如Pythia的EleutherAI、me
ta Llama 2、Bloom的BigScience Workshop。
安全公司警告,只要黑客成功控制这些模型库,就能发动多种攻击。不限于最基本的窃取模型和数据集,或是污染模型本身,让现有模型“夹带私货”,从而危害依赖这些基础模型的
应用及公共设施。
此外,安全公司发现一个Hugging Face此前宣布已停用的org_api tokens存在漏洞,安全人员稍微修改了代码,就令这款API“复活”,成功令研究人员下载平台上多款不公开的模型,包括微软的私有模型。
目前安全公司已经上报相关漏洞,而微软、me
ta、谷歌、VMware等公司也纷纷撤销了此前的API令牌及暴露的token。