该规定， 12月与成员国谈判达成一致 2023 年，欧洲议会议员以 523 票赞成、46 票反对、49 票弃权通过。
其目标是保护基本权利、民主、法治和环境可持续性免受高风险人工智能的影响，同时促进创新并让欧洲成为该领域的领导者。该法规根据人工智能的潜在风险和影响程度确定了人工智能的义务。
禁止的应用程序
新规定禁止某些威胁公民权利的人工智能应用，包括基于敏感特征的生物识别分类系统，以及从互联网或闭路电视录像中无针对性地抓取面部图像以创建面部识别数据库。工作场所和学校中的情绪识别、社会评分、预测性警务（仅基于对一个人进行分析或评估其特征时）以及操纵人类行为或利用人们的弱点的人工智能也将被禁止。
执法豁免
原则上禁止执法部门使用生物特征识别系统 (RBI)，除非是详尽列出和狭隘定义的情况。 “实时”RBI 只有在满足严格保障措施的情况下才能部署，例如其使用在时间和地理范围上受到限制，并受到事先特定的司法或行政授权。例如，此类用途可能包括有针对性地搜寻失踪人员或防止恐怖袭击。事后使用此类系统（“远程 RBI 后”）被认为是高风险用例，需要与刑事犯罪相关的司法授权。
高风险系统的义务
其他高风险人工智能系统也有明确的义务（因为它们对健康、安全、基本权利、环境、民主和法治具有重大潜在危害）。高风险人工智能用途的例子包括关键基础设施、教育和职业培训、就业、基本私人和公共服务（例如医疗保健、银行业）、执法、移民和边境管理、司法和民主进程中的某些系统（例如影响选举） 。此类系统必须评估和降低风险、维护使用日志、透明且准确，并确保人工监督。公民将有权提交有关人工智能系统的投诉，并有权获得有关影响其权利的高风险人工智能系统决策的解释。
透明度要求
通用人工智能 (GPAI) 系统及其所基于的 GPAI 模型必须满足某些透明度要求，包括遵守欧盟版权法和发布用于培训的内容的详细摘要。可能带来系统性风险的更强大的 GPAI 模型将面临额外的要求，包括执行模型评估、评估和减轻系统性风险以及报告事件。
此外，人造或操纵的图像、音频或视频内容（“深度伪造品”）需要明确标记。
支持创新和中小企业的措施
必须在国家层面建立监管沙箱和现实世界测试，并向中小企业和初创企业开放，以便在将创新人工智能投放市场之前开发和培训创新人工智能。
行情
在周二的全体辩论中，内部市场委员会联合报告员 Brando Benifei（S&D，意大利） 表示：“我们终于有了世界上第一部具有约束力的人工智能法律，以降低风险、创造机会、打击歧视并带来透明度。感谢议会，欧洲将禁止不可接受的人工智能做法，工人和公民的权利将得到保护。现在将设立人工智能办公室，以支持公司在规则生效之前开始遵守规则。我们确保人类和欧洲价值观处于人工智能发展的核心”。
公民自由委员会联合报告员 Dragos Tudorache（Renew，罗马尼亚） 说：“欧盟已经兑现了承诺。我们已将人工智能的概念与构成我们社会基础的基本价值观联系起来。然而，除了《人工智能法案》本身之外，还有很多工作要做。人工智能将推动我们重新思考民主国家核心的社会契约、教育模式、劳动力市场以及战争方式。 《人工智能法案》是围绕技术构建的新治理模式的起点。我们现在必须集中精力将这项法律付诸实践”。
接下来的步骤
该法规仍需经过律师和语言学家的最终审查，预计将在立法机关结束前最终通过（通过所谓的“ 勘误 程序）。该法律还需要得到理事会的正式批准。
该法案将于在官方公报上发布 24 天后生效，并在生效后 12 个月后全面适用，但以下情况除外： 禁止禁止的做法，将在生效日期六个月后适用；业务守则（生效后九个月）；通用人工智能规则，包括治理（生效后 36 个月）；以及高风险系统的义务（XNUMX 个月）。
背景
《人工智能法案》直接回应欧洲未来会议（COFE）公民的提案，最具体的是 提案 12(10) 关于增强欧盟在战略领域的竞争力， 提案 33(5) 建立一个安全和值得信赖的社会，包括打击虚假信息并确保人类最终处于控制之中， 提案 35 促进数字创新，(3) 同时确保人类监督和 (8) 值得信赖和负责任地使用人工智能，设置保障措施并确保透明度，以及 提案 37 (3) 使用人工智能和数字工具改善公民（包括残疾人）获取信息的机会。
