Parlament ve středu schválil zákon o umělé inteligenci, který zajišťuje bezpečnost a dodržování základních práv a zároveň podporuje inovace.
nařízení, dohodnuté při jednáních s členskými státy v prosinci 2023, poslanci EP podpořili 523 hlasy pro, 46 proti a 49 se zdrželo hlasování.
Jeho cílem je chránit základní práva, demokracii, právní stát a udržitelnost životního prostředí před vysoce rizikovou umělou inteligencí a zároveň podporovat inovace a etablovat Evropu jako lídra v této oblasti. Nařízení stanoví povinnosti pro umělou inteligenci na základě jejích potenciálních rizik a úrovně dopadu.
Zakázané aplikace
Nová pravidla zakazují určité aplikace umělé inteligence, které ohrožují práva občanů, včetně biometrických kategorizačních systémů založených na citlivých charakteristikách a necíleném seškrabávání obrázků obličeje z internetu nebo záběrů CCTV za účelem vytváření databází pro rozpoznávání obličejů. Zakázáno bude také rozpoznávání emocí na pracovišti a ve školách, sociální bodování, prediktivní policejní práce (pokud je založena pouze na profilování osoby nebo posouzení jejích vlastností) a umělá inteligence, která manipuluje s lidským chováním nebo využívá zranitelnosti lidí.
Výjimky pro vymáhání práva
Používání biometrických identifikačních systémů (RBI) orgány činnými v trestním řízení je zásadně zakázáno, s výjimkou taxativně vyjmenovaných a úzce vymezených situací. RBI „v reálném čase“ lze nasadit pouze tehdy, jsou-li splněny přísné záruky, např. jeho použití je časově a geograficky omezené a podléhá zvláštnímu předchozímu soudnímu nebo správnímu povolení. Mezi taková použití může patřit například cílené pátrání po pohřešované osobě nebo zabránění teroristickému útoku. Použití takových systémů post-facto („post-remote RBI“) je považováno za vysoce rizikový případ použití, který vyžaduje soudní povolení spojené s trestným činem.
Povinnosti pro vysoce rizikové systémy
Jasné povinnosti jsou rovněž stanoveny pro další vysoce rizikové systémy umělé inteligence (kvůli jejich značnému potenciálnímu poškození zdraví, bezpečnosti, základních práv, životního prostředí, demokracie a právního státu). Příklady vysoce rizikového využití umělé inteligence zahrnují kritickou infrastrukturu, vzdělávání a odbornou přípravu, zaměstnanost, základní soukromé a veřejné služby (např. zdravotnictví, bankovnictví), určité systémy v oblasti vymáhání práva, migraci a správu hranic, spravedlnost a demokratické procesy (např. ovlivňování voleb) . Takové systémy musí vyhodnocovat a snižovat rizika, vést záznamy o použití, být transparentní a přesné a zajišťovat lidský dohled. Občané budou mít právo podávat stížnosti na systémy umělé inteligence a obdržet vysvětlení ohledně rozhodnutí založených na vysoce rizikových systémech umělé inteligence, která ovlivňují jejich práva.
Požadavky na transparentnost
Univerzální systémy AI (GPAI) a modely GPAI, na kterých jsou založeny, musí splňovat určité požadavky na transparentnost, včetně souladu s autorským právem EU a zveřejňování podrobných shrnutí obsahu používaného pro školení. Výkonnější modely GPAI, které by mohly představovat systémová rizika, budou čelit dalším požadavkům, včetně provádění hodnocení modelů, hodnocení a zmírňování systémových rizik a podávání zpráv o incidentech.
Kromě toho musí být uměle vytvořené nebo manipulované obrázky, audio nebo video obsah („deepfakes“) jako takové jasně označeny.
Opatření na podporu inovací a MSP
Regulační sandboxy a testování v reálném světě budou muset být zřízeny na národní úrovni a zpřístupněny malým a středním podnikům a začínajícím podnikům, aby mohly rozvíjet a školit inovativní AI před jejím uvedením na trh.
Citáty
Během úterní rozpravy v plénu spoluzpravodaj Výboru pro vnitřní trh Brando Benifei (S&D, Itálie) řekl: „Konečně máme první závazný zákon na světě o umělé inteligenci, který snižuje rizika, vytváří příležitosti, bojuje proti diskriminaci a přináší transparentnost. Díky Parlamentu budou v Evropě zakázány nepřijatelné praktiky umělé inteligence a budou chráněna práva pracovníků a občanů. Kancelář AI bude nyní zřízena, aby podporovala společnosti, aby začaly dodržovat pravidla dříve, než vstoupí v platnost. Zajistili jsme, aby lidské bytosti a evropské hodnoty byly v samém centru rozvoje AI.“
Spoluzpravodaj Výboru pro občanské svobody Dragos Tudorache (Obnovit, Rumunsko) řekl: „EU splnila. Spojili jsme koncept umělé inteligence se základními hodnotami, které tvoří základ naší společnosti. Čeká nás však mnoho práce, která přesahuje samotný zákon o umělé inteligenci. Umělá inteligence nás donutí přehodnotit společenskou smlouvu v srdci našich demokracií, naše vzdělávací modely, trhy práce a způsob, jakým vedeme válčení. Zákon o umělé inteligenci je výchozím bodem pro nový model řízení postavený na technologii. Nyní se musíme zaměřit na uvedení tohoto zákona do praxe“.
Další kroky
Nařízení ještě podléhá závěrečné právně-lingvistické kontrole a očekává se, že bude definitivně přijato do konce volebního období (prostřednictvím tzv. korigendum postup). Zákon také musí formálně schválit Rada.
Vstoupí v platnost dvacet dní po zveřejnění v Úředním věstníku a plně se uplatní 24 měsíců po vstupu v platnost, s výjimkou: zákazů zakázaných praktik, které budou platit šest měsíců po dni vstupu v platnost; kodexy správné praxe (devět měsíců po vstupu v platnost); obecná pravidla umělé inteligence včetně správy (12 měsíců po vstupu v platnost); a povinnosti pro vysoce rizikové systémy (36 měsíců).
Pozadí
Zákon o umělé inteligenci přímo reaguje na návrhy občanů z Konference o budoucnosti Evropy (COFE), konkrétně na návrh 12(10) o posílení konkurenceschopnosti EU ve strategických odvětvích, návrh 33(5) o bezpečné a důvěryhodné společnosti, včetně boje proti dezinformacím a zajištění toho, aby lidé měli konečnou kontrolu, návrh 35 o podpoře digitální inovace, (3) při zajištění lidského dohledu a (8) důvěryhodné a odpovědné používání AI, nastavení ochranných opatření a zajištění transparentnosti a návrh 37 (3) o používání umělé inteligence a digitálních nástrojů ke zlepšení přístupu občanů k informacím, včetně osob se zdravotním postižením.
