域外动态
全球首部针对人工智能的专门规范：欧盟《人工智能法案》正式通过
2024年5月21日，欧盟理事会正式通过了具有里程碑意义的《人工智能法案》，这是全球首个旨在统一人工智能监管的立法。这一开创性的法律由欧盟委员会2021年4月提出，采用基于风险的方法，从而确保在整个欧盟范围内安全且可信赖的人工智能系统的发展和使用。该法案根据风险水平对人工智能应用进行分类，对高风险系统施加严格要求，并禁止被视为不可接受的应用，如预测性执法和社会评分。《人工智能法案》还建立了强有力的治理结构，包括在委员会内设立人工智能办公室以及一个独立专家组成的科学小组。通过制定全球标准，这一立法凸显了欧盟在平衡创新与保护基本权利方面的承诺。
《人工智能法案》的立法历程始于2021年4月，由欧盟委员会在内部市场专员蒂埃里·布雷顿的领导下提出。该草案经过广泛的审查和磋商，采纳了欧洲经济社会委员会、欧洲中央银行和地区委员会的意见。欧洲议会报告员布兰多·贝内菲和德拉戈什·图多拉奇在立法过程中发挥了关键作用。欧洲议会和理事会于2023年12月8日达成临时协议。随着2024年5月21日理事会的最终批准，该法案将由欧洲议会和理事会的主席签署，并将在欧盟官方公报上发布，法规将在发布两年后正式生效。
法案内容
第一章：总则（General Provisions）
本章奠定了法案的基本定义、适用范围和目标。明确了什么构成人工智能系统，并概述了法案在各个领域的适用性，同时强调了对基本权利和安全的保护。
第二章：禁止的人工智能实践（Prohibited AI Practices）
本章列出了对安全或基本权利构成不可接受风险的人工智能系统的禁令。这包括禁止用于社会评分、预测性警务以及任何以对个人或社会有害的方式操控人类行为的应用。
第三章：高风险人工智能系统（High-Risk AI Systems）
本章详细说明了高风险人工智能系统的分类标准及其必须满足的严格要求。这些系统必须经过严格的合规性评估，保持风险管理系统，并确保透明性和可追溯性。
第四章：特定人工智能系统的透明度义务（Transparency Obligations for Certain AI Systems）
本章要求直接与个人互动或生成合成内容的人工智能系统必须满足透明度要求。提供者必须告知用户他们正在与人工智能互动，并确保人工智能生成的内容有明确标识。
第五章：提供者和用户的义务（Obligations of Providers and Users）
本章对人工智能系统的提供者、用户、进口商和分销商规定了具体的义务，以确保在整个人工智能生命周期内的合规性。包括维护技术文档和确保持续监控和报告人工智能的性能。
第六章：支持创新的措施（Measures in Support of Innovation）
本章介绍了促进创新的条款，包括建立人工智能监管沙箱，允许在现实条件下对人工智能系统进行受控测试，从而营造一个有利于创新的法律环境。
第七章：治理和执行（Governance and Implementation）
本章建立了治理框架，如人工智能办公室和人工智能委员会，这些机构将监督该法案的实施和执行。它们将确保规则的一致应用，并为利益相关者提供指导和支持。
第八章：行为准则和自愿承诺（Codes of Conduct and Voluntary Commitments）
本章鼓励提供者制定和遵守行为准则和自愿承诺，旨在促进行业内的最佳实践和自我监管。
第九章：市场后监控、信息共享和市场监督（Post-Market Monitoring, Information Sharing, and Market Surveillance）
本章要求人工智能系统在部署后进行持续监控，以确保持续合规。包括报告严重事件的机制和在成员国之间共享信息以增强市场监督。
第十章：最终条款（Final Provisions）
最后条款涉及立法程序，包括对现有欧盟法规和指令的修订，确保法律框架的一致性。
法案亮点
1. 基于风险的分类系统
法案采用基于风险的方法，根据其可能造成的危害对人工智能应用进行分类。用于关键基础设施、医疗保健和交通等领域的高风险人工智能系统需满足严格的要求，包括严格的合规性评估、风险管理协议和强制性透明措施（第三章）。被认为不可接受的人工智能实践，如预测性警务和社会评分，则被直接禁止（第二章），因为它们对基本权利和公共安全构成重大风险。
2. 透明度义务
为了确保个人在与人工智能互动时能够知情，法案对直接与用户互动或生成合成内容的人工智能系统规定了透明度义务。提供者必须告知用户他们正在与人工智能互动，并明确标注人工智能生成的内容（第四章）。这一措施旨在防止欺骗并促进对人工智能技术的信任。
3. 治理框架
法案建立了一个全面的治理框架，以监督其实施和执行。关键组件包括在欧盟委员会内设立人工智能办公室，由成员国代表组成的人工智能委员会，以及独立专家组成的科学小组（第七章）。这些机构负责确保该法案在整个欧盟范围内的一致应用，并为利益相关者提供技术支持和指导。
4. 创新与监管沙箱
法案通过引入人工智能监管沙箱来促进创新，这些沙箱允许在现实条件下对人工智能系统进行受控测试和验证（第六章）。这些沙箱为开发人员提供了一个安全的环境，让他们可以进行实验和改进人工智能技术，促进创新文化，同时确保符合监管标准。
5. 不合规的处罚
为了有效执行法规，法案规定了对不合规行为的严厉处罚。违反该法案的公司将面临以其全球年度营业额为基础计算的罚款，确保不合规的后果具有重大威慑作用（多章节中的处罚条款）。
6. 基本权利的保护
法案的一个重要亮点是其对保护基本权利的关注。它包括防止人工智能系统侵犯隐私、数据保护和反歧视原则的条款。高风险人工智能系统，特别是由公共实体使用的系统，必须在部署前进行基本权利影响评估（第五章）。
7. 对中小企业和初创企业的支持
认识到支持小企业的重要性，该法案包括确保对中小企业和初创企业的处罚和合规要求成比例的措施（第六章中的处罚条款和支持措施）。这种方法旨在鼓励小型企业在人工智能市场中的创新和竞争力。
结语
《人工智能法案》是一项具有里程碑意义的法规，对人工智能技术的发展产生了重大影响，并建立了一个平衡创新与伦理考量的综合框架。通过实施基于风险的分类方法和对高风险人工智能系统的严格要求，该法案确保了人工智能进步的安全性和可信度。此法案不仅在欧盟内部促进了透明度和问责制，还树立了全球标准，鼓励其他国家采用类似的法规。这将推动全球范围内人工智能技术的负责任增长，促进国际合作和人工智能标准的统一，最终引导全球人工智能生态系统向更加安全和符合伦理的方向发展。
END
编辑 | 王迪、徐鹏
审核 | 李鑫、吴宗泽
