“在这一努力中，我们成功地保持了极其微妙的平衡：在整个欧洲促进人工智能的创新和采用，同时充分尊重我们公民的基本权利。”西班牙数字化和人工智能负责人卡梅·阿蒂加斯 (Carme Artigas)直言，AI Act临时协议是一个历史性的成就，也是迈向未来的巨大里程碑，该协议将有效地解决快速发展的技术环境中，全球范围内涉及社会、经济等关键领域面临的挑战。
人工智能法案是一项旗舰立法举措，有可能促进私人和公共行为者在欧盟单一市场上开发和采用安全、值得信赖的人工智能。主要思想是根据人工智能对社会造成危害的能力，遵循“基于风险”的方法来监管人工智能：风险越高，规则越严格。
当下，借助技术的蝶变，人类社会比任何时代都发展得要更快，因科技产生的伦理问题、社会混乱、信息安全等问题频现。作为全球首个此类立法提案，AI Act是否可以像《通用数据保护条例》（General Data Protection Regulation，简称GDPR）一样，为其他司法管辖区的人工智能监管制定全球标准，从而在世界舞台上推广欧洲的技术监管方式？
欧盟委员会官网发布《人工智能法案》临时协议。（图片来源：官网截图）
AI Act临时协议聚焦哪些方面？
根据官网显示，与委员会最初的提案相比，AI Act临时协议的主要新内容可概括如下：
针对未来可能导致系统性风险的高影响力通用人工智能模型以及高风险人工智能系统的规则；
修订后的治理体系，在欧盟层面具有一定的执行权；
扩大禁止清单，但执法当局可以在公共场所使用远程生物识别，但须遵守保障措施；
通过高风险人工智能系统的部署者有义务在人工智能系统投入使用之前进行基本权利影响评估，更好地保护权利。
通过监管，先进的人工智能能够实现“科技向善”的美好夙愿吗？在西南科技大学计算机学院院长张晖看来，向善的智能是技术的开发者和使用者。张晖告诉封面新闻记者，在人工智能迭代的当下，技术也会带来许多新的机会，同时也将面临风险。“只有加强对人的教育与监管，才能构建数字教育的良性生态循环。”
AI Act临时协议还澄清，该法规不适用于欧盟法律范围之外的领域，并且在任何情况下都不应影响成员国在国家安全方面的权限或受托执行该领域任务的任何实体。此外，人工智能法案不适用于专门用于军事或国防目的的系统。同样，该协议规定，该规定不适用于仅用于研究和创新目的的人工智能系统，或出于非专业原因使用人工智能的人。
在公共场所使用实时远程生物识别系统，AI Act临时协议明确了出于执法目的而严格需要使用此类系统的目标，因此应破例允许执法当局使用此类系统。
此外，AI Act临时协议还增加了新的规定，以考虑人工智能系统可用于多种不同目的（通用人工智能）以及通用人工智能技术随后集成到另一个高风险系统中的情况。
AI世界新的治理架构
根据GPAI模型的新规则以及在欧盟层面执行的明显需要，委员会内设立了一个人工智能办公室，其任务是监督这些最先进的人工智能模型，促进制定标准和测试实践，并执行欧盟的通用规则。所有会员国由独立专家组成的科学小组，将向人工智能办公室提供有关GPAI模型的建议，包括开发用于评估基础模型能力的方法、就高影响力基础模型的指定和出现提供建议，以及监测相关的可能的材料安全风险。
由成员国代表组成的人工智能委员会将继续作为委员会的协调平台和咨询机构，并将在法规的实施方面赋予成员国重要作用，包括设计基金会的业务守则。楷模。最后，将为行业代表、中小企业、初创企业、民间社会和学术界等利益相关者设立一个咨询论坛，为人工智能委员会提供技术专业知识。
对违反人工智能法案的罚款按照违规公司上一财年全球年营业额的百分比或预订金额确定，以较高者为准。对于违反被禁止的人工智能应用程序，罚款为3500万欧元或营业额的7%；对于违反人工智能法案义务，罚款为1500万欧元或营业额的 3%；对于提供不正确信息，罚款750万欧元或营业额的1.5%。然而，临时协议对中小企业和初创企业违反《人工智能法》规定的行政罚款规定了更高比例的上限。
AI Act临时协议还明确规定，自然人或法人可以就不遵守《人工智能法》的行为向相关市场监管机构提出投诉，并可能期望此类投诉将按照该机构的专门程序进行处理。
该临时协议规定在部署者将高风险人工智能系统投入市场之前进行基本权利影响评估。临时协议还规定提高高风险人工智能系统使用的透明度。值得注意的是，委员会提案的一些条款已被修改，表明作为公共实体的高风险人工智能系统的某些用户也将有义务在欧盟高风险人工智能系统数据库中注册。此外，新增加的条款强调情绪识别系统的用户有义务在自然人接触该系统时告知他们。
AI监管路在何方？
AI Act临时协议规定，《人工智能法》应在生效两年后适用，但具体条款有一些例外。
封面新闻记者在浏览欧盟理事会官网时注意到，在达成AI Act临时协议后，未来几周将继续在技术层面进行工作，以最终确定新法规的细节。这项工作完成后，主席国将向成员国代表（Coreper）提交折衷文本以供批准。整个文本需要得到两个机构的确认，并经过法律语言修订，然后才能由联合立法者正式通过。
实际上，AI Act在达成临时协议之前，欧盟各成员国和欧洲议会议员已就应如何管控人工智能进行了多年的讨论。2021年，欧盟委员会就曾提议通过《人工智能法案》。在2022年末ChatGPT发布后，监管人工智能变得紧迫起来，包括中国、美国、英国在内的国家，都在快速地推进关于人工智能治理的规则建设。
北京社科院副研究员王鹏在接受采访时表示，中欧在人工智能监管的合作空间是非常巨大的。“中欧作为全球人工智能的领先力量，可以在多个方面展开合作：首先，双方可以分享各自在人工智能监管方面的经验和政策，相互借鉴；其次，双方可以共同制定人工智能技术和应用的标准，促进国际标准的互联互通，确保人工智能技术的安全应用；第三，双方可以在合法合规的前提下共享人工智能技术的数据资源，为人工智能的研发和产业化提供支持；此外，人工智能Kaiyun官方网站app登录 培养也是一个未来重要的合作方面。”
今年7月，中国国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》，自8月15日起施行。
张晖向封面新闻记者指出，管理办法将促进国内某些研究方向的发展，如办法中明确规定：采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视，要保证数据的真实性、准确性、客观性、多样性，尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。“都会对AI算法公平性研究起到促进作用。”
为生成式人工智能的发展尽早做好合规工作，可以为行业后续健康发展保驾护航。在张晖看来，管理办法的出台，是非常全面及时的。在生成式人工智能服务还没有大量铺开，未产生广泛社会影响的时候就出台相关管理规定，界定相关责任，限制歧视、虚假、隐私信息的生成，让大家在合规的范围内开展工作，有利于行业的健康发展。
