今天， 欧洲人工智能法案（AI法案）世界上第一部关于人工智能的综合法规《人工智能法案》生效。该法案旨在确保在欧盟开发和使用的人工智能值得信赖，并采取保障措施保护人们的基本权利。该法规旨在在欧盟建立一个协调的人工智能内部市场，鼓励采用这项技术，并 创造支持性环境 用于创新和投资。
《人工智能法案》根据欧盟的产品安全和基于风险的方法，对人工智能进行了前瞻性的定义：
- 风险最小：大多数人工智能系统（例如人工智能推荐系统和垃圾邮件过滤器）都属于这一类。这些系统无需承担《人工智能法案》规定的义务，因为它们对公民的风险极小 权利 和安全。 公司可以自愿采用额外的行为准则.
- 特定透明度风险：聊天机器人等人工智能系统 必须清楚地向用户披露他们正在与机器交互. 某些人工智能生成的内容（包括深度伪造）必须贴上标签，并且在使用生物特征分类或情绪识别系统时需要告知用户。此外，提供商必须设计系统，以便合成音频、视频、文本和图像内容以机器可读的格式标记，并可检测为人工生成或操纵的。
- 高风险： 被认定为高风险的人工智能系统将需要遵守 严格要求包括风险缓解系统、高质量数据集、活动记录、详细文档、清晰的用户信息、人工监督以及高水平的稳健性、准确性和网络安全性。监管沙盒将促进负责任的创新和合规人工智能系统的开发。此类高风险人工智能系统包括用于招聘、评估某人是否有资格获得贷款或运行自主机器人的人工智能系统。
- 不可接受的风险： 被视为对人类基本权利构成明显威胁的人工智能系统将 禁止。这包括操纵人类行为以规避用户自由意志的人工智能系统或应用程序，例如使用语音辅助鼓励未成年人危险行为的玩具、允许政府或公司进行“社交评分”的系统以及某些预测性警务应用。此外，某些生物识别系统的用途将被禁止，例如在工作场所使用的情绪识别系统和某些用于对人员进行分类的系统或用于在公共场所执法目的的实时远程生物识别系统（少数例外）。
为了补充这一制度，《人工智能法案》还引入了所谓的 通用人工智能模型，这些模型功能强大，可以执行各种任务，例如生成类似人类的文本。通用人工智能模型越来越多地用作人工智能应用程序的组件。《人工智能法案》将确保价值链的透明度，并解决功能最强大的模型可能存在的系统性风险。
人工智能规则的应用和执行
成员国必须在2年2025月XNUMX日之前指定国家主管当局，负责监督人工智能系统规则的应用并开展市场监督活动。 该委员会的 人工智能办公 将成为欧盟层面人工智能法案的主要实施机构，以及通用规则的执行者 AI模型.
三个咨询机构将支持该规则的实施。 欧洲人工智能委员会 将确保《人工智能法案》在 EU 成员国并将作为委员会与成员国之间合作的主要机构。 由独立专家组成的科学小组 将提供技术建议和执法意见。特别是，该小组可以向人工智能办公室发出有关通用人工智能模型相关风险的警报。人工智能办公室还可以从以下机构获得指导 咨询论坛，由多元化的利益相关者组成。
不遵守规定的公司将被处以罚款。违反被禁人工智能应用的罚款最高可达全球年营业额的 7%，违反其他义务的罚款最高可达 3%，提供不正确信息的罚款最高可达 1.5%。
下一步
《人工智能法案》的大部分规则将于 2 年 2026 月 12 日开始适用。然而，对于被认为存在不可接受风险的人工智能系统的禁令将在六个月后生效，而针对所谓通用人工智能模型的规则将在 XNUMX 个月后生效。
为了弥合全面实施前的过渡期，委员会启动了 人工智能契约。该倡议邀请人工智能开发者在法定期限之前自愿承担《人工智能法案》的关键义务。
委员会还正在制定指导方针，定义和详细说明《人工智能法案》的实施方式，并促进制定标准和行为准则等共同监管手段。委员会开放了 征集兴趣表达 参与起草第一部通用人工智能行为准则，以及 多方利益相关方磋商 让所有利益相关者有机会对《人工智能法案》下的第一部行为准则发表意见。
背景
在9十二月2023上， 委员会对政治协议表示欢迎 关于人工智能法案。24 年 2024 月 XNUMX 日 委员会推出了一揽子措施 支持欧洲初创企业和中小企业开发值得信赖的人工智能。29 年 2024 月 XNUMX 日，委员会 推出人工智能办公室. 在9 July 2024上 修订后的欧洲HPC JU法规生效从而允许建立人工智能工厂。这使得专用的人工智能超级计算机可用于训练通用人工智能 (GPAI) 模型。
持续的独立、基于证据的研究 联合研究中心（JRC） 对于制定欧盟的人工智能政策和确保其有效实施至关重要。
