수요일 의회는 안전과 기본권 준수를 보장하는 동시에 혁신을 촉진하는 인공지능법을 승인했습니다.
규제, 12월 회원국과 협상 합의 2023년 안건은 찬성 523표, 반대 46표, 기권 49표로 MEP의 지지를 받았습니다.
고위험 AI로부터 기본권, 민주주의, 법치, 환경 지속 가능성을 보호하는 동시에 혁신을 촉진하고 유럽을 이 분야의 리더로 확립하는 것을 목표로 합니다. 이 규정은 잠재적인 위험과 영향 수준에 따라 AI에 대한 의무를 설정합니다.
금지된 애플리케이션
새로운 규정은 민감한 특성을 기반으로 한 생체 인식 분류 시스템, 얼굴 인식 데이터베이스를 생성하기 위해 인터넷이나 CCTV 영상에서 얼굴 이미지를 대상 없이 스크랩하는 등 시민의 권리를 위협하는 특정 AI 애플리케이션을 금지합니다. 직장과 학교에서의 감정 인식, 사회적 채점, 예측 치안(개인 프로파일링이나 특성 평가에만 기반한 경우), 인간 행동을 조작하거나 인간의 취약성을 이용하는 AI도 금지됩니다.
법 집행 면제
법집행기관이 생체인식시스템(RBI)을 사용하는 것은 철저하게 나열되고 제한적으로 정의된 상황을 제외하고는 원칙적으로 금지됩니다. "실시간" RBI는 엄격한 보호 조치가 충족되는 경우에만 배포할 수 있습니다. 예를 들어 RBI의 사용은 시간과 지리적 범위가 제한되고 특정 사전 사법 또는 행정 승인이 적용됩니다. 이러한 용도에는 실종자를 대상으로 수색하거나 테러리스트 공격을 예방하는 등이 포함될 수 있습니다. 이러한 시스템을 사후(“원격 RBI 이후”) 사용하는 것은 고위험 사용 사례로 간주되며, 형사 범죄와 관련하여 사법적 승인이 필요합니다.
고위험 시스템에 대한 의무
다른 고위험 AI 시스템에 대해서도 명확한 의무가 예상됩니다(건강, 안전, 기본권, 환경, 민주주의 및 법치에 대한 상당한 잠재적 피해로 인해). 고위험 AI 사용의 예로는 중요 인프라, 교육 및 직업 훈련, 고용, 필수 민간 및 공공 서비스(예: 의료, 은행), 법 집행의 특정 시스템, 이주 및 국경 관리, 사법 및 민주적 절차(예: 선거에 영향)이 있습니다. . 이러한 시스템은 위험을 평가 및 줄이고, 사용 로그를 유지하고, 투명하고 정확하며, 사람의 감독을 보장해야 합니다. 시민들은 AI 시스템에 대해 불만을 제기하고 자신의 권리에 영향을 미치는 고위험 AI 시스템에 따른 결정에 대해 설명을 들을 권리가 있습니다.
투명성 요구사항
범용 AI(GPAI) 시스템과 그 기반이 되는 GPAI 모델은 EU 저작권법 준수, 교육에 사용되는 콘텐츠의 자세한 요약 게시 등 특정 투명성 요구 사항을 충족해야 합니다. 시스템적 위험을 초래할 수 있는 더욱 강력한 GPAI 모델은 모델 평가 수행, 시스템적 위험 평가 및 완화, 사고 보고 등 추가 요구 사항에 직면하게 됩니다.
또한, 인공적이거나 조작된 이미지, 오디오 또는 비디오 콘텐츠(“딥페이크”)에는 이를 명확하게 표시해야 합니다.
혁신 및 중소기업 지원 대책
혁신적인 AI를 시장에 출시하기 전에 개발하고 교육하려면 규제 샌드박스와 실제 테스트를 국가 차원에서 확립하고 중소기업과 스타트업이 접근할 수 있도록 해야 합니다.
인용 부호
화요일 전체토론회에서 내부시장위원회 공동보고관은 Brando Benifei (S&D, 이탈리아) “우리는 마침내 위험을 줄이고 기회를 창출하며 차별에 맞서 싸우고 투명성을 확보하기 위해 인공 지능에 관한 세계 최초의 구속력 있는 법률을 갖게 되었습니다. 의회 덕분에 유럽에서는 용납할 수 없는 AI 관행이 금지되고 노동자와 시민의 권리가 보호될 것입니다. AI Office는 이제 기업이 규칙이 발효되기 전에 이를 준수할 수 있도록 지원하기 위해 설립될 것입니다. 우리는 인간과 유럽의 가치가 AI 개발의 중심에 있다는 것을 확신했습니다.”
시민자유위원회 공동보고관 Dragos Tudorache (리뉴, 루마니아) “EU가 전달했습니다. 우리는 인공지능의 개념을 우리 사회의 근간을 이루는 기본 가치와 연결시켰습니다. 그러나 AI법 자체를 넘어서는 많은 과제가 남아 있습니다. AI는 우리가 민주주의, 교육 모델, 노동 시장, 전쟁 수행 방식의 중심에 있는 사회 계약을 다시 생각하게 만들 것입니다. AI법은 기술을 중심으로 구축된 새로운 거버넌스 모델의 출발점입니다. 이제 우리는 이 법을 실천에 옮기는 데 집중해야 합니다.”
다음 단계
이 규정은 여전히 최종 변호사-언어 전문가 점검을 거쳐야 하며 입법부가 끝나기 전에 최종적으로 채택될 것으로 예상됩니다. 정오표 절차). 또한 이 법은 의회의 공식 승인을 받아야 합니다.
이 규정은 공식 저널에 게재된 후 24일 후에 발효되며, 발효 후 12개월이 지나면 완전히 적용됩니다. 단, 금지된 행위에 대한 금지는 발효일로부터 36개월 후에 적용됩니다. 실천강령(발효 후 XNUMX개월) 거버넌스를 포함한 범용 AI 규칙(시행 후 XNUMX개월) 고위험 시스템에 대한 의무(XNUMX개월).
배경
인공지능법은 유럽미래회의(COFE)의 시민 제안에 직접적으로 응답하며, 가장 구체적으로 다음과 같습니다. 제안 12(10) 전략적 부문에서 EU의 경쟁력 강화에 관한 것입니다. 제안 33(5) 허위 정보에 맞서고 인간이 궁극적으로 통제할 수 있도록 보장하는 것을 포함하여 안전하고 신뢰할 수 있는 사회에서 제안 35 (3) 인간의 감독과 (8) AI를 신뢰할 수 있고 책임감 있게 사용하고 보호 장치를 설정하며 투명성을 보장합니다. 제안 37(3) 장애인을 포함한 시민의 정보 접근을 개선하기 위해 AI 및 디지털 도구를 사용하는 방법에 대해 설명합니다.
