欧洲议会表示,该法案旨在保护基本权利、环境可持续性等方面免受“高风险人工智能”的影响,同时促进创新,以将欧洲“打造成为该领域的领导者”。
综合界面新闻、BBC报道,该法案将禁止一部分“威胁公民权利”的人工智能
应用,包括基于敏感特征的生物识别分类系统,以及从互联网或闭路电视录像中无目标地抓取面部图像,以创建面部识别数据库。此外,操纵人类行为或利用人类弱点的人工智能也将被禁止。
该法案将根据风险对产品进行分类并相应调整审查,其主要思想是根据人工智能对社会造成危害的能力对其进行监管:风险越高,规则就越严格。
“对基本权利构成明显风险”的AI应用程序将被禁止,例如一些涉及生物识别数据处理的应用程序。
被视为“高风险”的AI系统,例如用于关键基础设施、教育、医疗保健、执法、边境管理等领域的人工智能系统,必须遵守严格的要求。
垃圾邮件过滤器等低风险服务将面临“最宽松”的监管(IT之家注:欧盟预计大多数服务都属于此类)。
该法案还制定了一系列条款,以应对支持生成式AI工具和聊天
机器人(例如OpenAI的ChatGPT)的系统所带来的风险:要求“所谓的通用人工智能系统”生产者对用于训练模型的材料保持透明,并遵守欧盟《版权法》。