V současné době Evropský zákon o umělé inteligenci (AI Act), první komplexní nařízení na světě o umělé inteligenci, vstupuje v platnost. Zákon o umělé inteligenci je navržen tak, aby zajistil, že umělá inteligence vyvinutá a používaná v EU bude důvěryhodná a bude obsahovat záruky na ochranu základních práv lidí. Cílem nařízení je vytvořit harmonizovaný vnitřní trh pro umělou inteligenci v EU a podporovat zavádění této technologie a vytváření podpůrného prostředí pro inovace a investice.
Zákon o umělé inteligenci zavádí prozíravou definici umělé inteligence, která je založena na přístupu založeném na bezpečnosti produktů a riziku v EU:
- Minimální riziko: Do této kategorie spadá většina systémů umělé inteligence, jako jsou doporučující systémy s podporou umělé inteligence a spamové filtry. Tyto systémy nemají žádné povinnosti podle zákona o AI kvůli jejich minimálnímu riziku pro občany práva a bezpečnost. Společnosti mohou dobrovolně přijmout další kodexy chování.
- Specifické riziko transparentnosti: Systémy umělé inteligence jako chatboti musí uživatelům jasně sdělit, že interagují se strojem. Určitý obsah generovaný umělou inteligencí, včetně hlubokých padělků, musí být jako takový označen a uživatelé musí být informováni, když se používají systémy biometrické kategorizace nebo rozpoznávání emocí. Kromě toho budou muset poskytovatelé navrhnout systémy tak, aby syntetický obsah zvuku, videa, textu a obrázků byl označen ve strojově čitelném formátu a detekovatelný jako uměle vytvořený nebo zpracovaný.
- Vysoké riziko: Systémy umělé inteligence označené jako vysoce rizikové budou muset vyhovět přísné požadavky, včetně systémů pro zmírnění rizik, vysoké kvality datových sad, protokolování aktivit, podrobné dokumentace, jasných uživatelských informací, lidského dohledu a vysoké úrovně robustnosti, přesnosti a kybernetické bezpečnosti. Regulační sandboxy usnadní odpovědné inovace a vývoj kompatibilních systémů umělé inteligence. Mezi takové vysoce rizikové systémy umělé inteligence patří například systémy umělé inteligence používané k náboru nebo k posouzení, zda má někdo nárok na půjčku, nebo na provozování autonomních robotů.
- Nepřijatelné riziko: Systémy umělé inteligence považovány za jasnou hrozbu pro základní práva lidí budou zakázán. Patří sem systémy nebo aplikace umělé inteligence, které manipulují s lidským chováním za účelem obcházení svobodné vůle uživatelů, jako jsou hračky využívající hlasovou asistenci podporující nebezpečné chování nezletilých, systémy, které umožňují „sociální bodování“ ze strany vlád nebo společností, a určité aplikace prediktivní kontroly. Kromě toho budou zakázána některá použití biometrických systémů, například systémy rozpoznávání emocí používané na pracovišti a některé systémy pro kategorizaci osob nebo biometrická identifikace na dálku v reálném čase pro účely vymáhání práva ve veřejně přístupných prostorách (až na úzké výjimky).
K doplnění tohoto systému zavádí zákon o AI také pravidla pro tzv univerzální modely umělé inteligence, což jsou vysoce schopné modely umělé inteligence, které jsou navrženy k provádění široké škály úkolů, jako je generování lidského textu. Univerzální modely umělé inteligence se stále častěji používají jako součásti aplikací umělé inteligence. Zákon o AI zajistí transparentnost v hodnotovém řetězci a řeší možná systémová rizika nejschopnějších modelů.
Aplikace a vymáhání pravidel AI
Členské státy mají do 2. srpna 2025 určit příslušné vnitrostátní orgány, které budou dohlížet na uplatňování pravidel pro systémy umělé inteligence a provádějí činnosti dozoru nad trhem. Komise je Kancelář AI bude klíčovým prováděcím orgánem pro zákon o umělé inteligenci na úrovni EU a také vymahačem pravidel pro obecné účely AI modely.
Zavádění pravidel budou podporovat tři poradní orgány. The Evropská rada pro umělou inteligenci zajistí jednotné uplatňování zákona o AI napříč EU a bude působit jako hlavní orgán pro spolupráci mezi Komisí a členskými státy. Vědecký panel nezávislých odborníků nabídne technické poradenství a informace o vymáhání. Tento panel může zejména vydávat upozornění úřadu AI o rizicích souvisejících s modely AI pro obecné účely. Poradenství může získat také kancelář AI poradní fórum, složený z různorodého souboru zúčastněných stran.
Firmy, které pravidla nedodrží, budou pokutovány. Pokuty by mohly dosáhnout až 7 % celosvětového ročního obratu za porušení zakázaných aplikací umělé inteligence, až 3 % za porušení jiných povinností a až 1.5 % za poskytnutí nesprávných informací.
Další kroky
Většina pravidel zákona o umělé inteligenci začne platit od 2. srpna 2026. Zákazy systémů umělé inteligence, které představují nepřijatelné riziko, však budou platit již po šesti měsících, zatímco pravidla pro tzv. General-Purpose AI modely budou platit po uplynutí 12 měsíců.
Aby překlenula přechodné období před úplným provedením, Komise zahájila program Pakt AI. Tato iniciativa vyzývá vývojáře AI, aby dobrovolně přijali klíčové povinnosti zákona o AI ještě před zákonnými lhůtami.
Komise rovněž vypracovává pokyny, které definují a upřesňují, jak by měl být zákon o umělé inteligenci implementován, a usnadňující nástroje společné regulace, jako jsou standardy a kodexy správné praxe. Komise otevřela výzva k vyjádření zájmu podílet se na vypracování prvního univerzálního kodexu AI a a konzultace s více zúčastněnými stranami dát příležitost všem zúčastněným, aby se vyjádřily k prvnímu kodexu praxe podle zákona o umělé inteligenci.
Pozadí
Na 9 prosinec 2023, Komise politickou dohodu uvítala o zákonu o AI. Dne 24. ledna 2024 Komise zahájila balíček opatření podporovat evropské startupy a malé a střední podniky ve vývoji důvěryhodné umělé inteligence. Dne 29. května 2024 Komise odhalil AI Office. Dne 9. července 2024 vstoupilo v platnost pozměněné nařízení EuroHPC JU, což umožňuje zřízení továren na umělou inteligenci. To umožňuje použití specializovaných AI-superpočítačů pro trénování modelů General Purpose AI (GPAI).
Pokračující nezávislý výzkum založený na důkazech produkovaný společností Společné výzkumné centrum (JRC) byla zásadní při formování politik EU v oblasti umělé inteligence a zajišťování jejich účinného provádění.
