Az Országgyűlés szerdán elfogadta a mesterséges intelligenciáról szóló törvényt, amely biztosítja a biztonságot és az alapvető jogok tiszteletben tartását, miközben fellendíti az innovációt.
A szabályozás, decemberben a tagállamokkal folytatott tárgyalásokon állapodtak meg 2023-ban a képviselők 523 igen szavazattal, 46 nemmel és 49 tartózkodással támogatták.
Célja, hogy megvédje az alapvető jogokat, a demokráciát, a jogállamiságot és a környezeti fenntarthatóságot a magas kockázatú mesterséges intelligencia ellen, miközben fellendíti az innovációt, és Európát vezető szerepet tölt be ezen a területen. A rendelet kötelezettségeket ír elő a mesterséges intelligencia számára annak lehetséges kockázatai és hatásszintje alapján.
Tiltott alkalmazások
Az új szabályok betiltanak bizonyos mesterséges intelligencia alkalmazásokat, amelyek veszélyeztetik az állampolgárok jogait, ideértve az érzékeny jellemzőken alapuló biometrikus kategorizáló rendszereket, valamint az arcképek internetről vagy CCTV-felvételek céltalan lekaparását arcfelismerő adatbázisok létrehozásához. Ugyancsak tilos lesz az érzelmek felismerése a munkahelyen és az iskolákban, a társadalmi pontozás, a prediktív rendfenntartás (amikor kizárólag egy személy profilalkotásán vagy tulajdonságainak felmérésén alapul), valamint az emberi viselkedést manipuláló vagy az emberek sebezhetőségét kihasználó mesterséges intelligencia.
Bünüldözési mentességek
A biometrikus azonosítási rendszerek (RBI) bűnüldöző szervek általi használata elvileg tilos, kivéve a kimerítően felsorolt és szűken meghatározott helyzeteket. A „valós idejű” RBI csak szigorú biztosítékok betartása esetén telepíthető, pl. használata időben és földrajzilag korlátozott, és előzetes bírósági vagy közigazgatási engedélyhez kötött. Ilyen felhasználás lehet például egy eltűnt személy célzott felkutatása vagy terrortámadás megelőzése. Az ilyen rendszerek utólagos használata („post-remote RBI”) nagy kockázatú felhasználási esetnek minősül, amely bűncselekményhez kötött bírósági engedélyt igényel.
A magas kockázatú rendszerek kötelezettségei
Egyértelmű kötelezettségeket irányoznak elő más magas kockázatú mesterséges intelligencia-rendszerekre is (az egészségre, a biztonságra, az alapvető jogokra, a környezetre, a demokráciára és a jogállamiságra gyakorolt jelentős potenciális károk miatt). A magas kockázatú mesterséges intelligencia használatára példák a kritikus infrastruktúra, az oktatás és a szakképzés, a foglalkoztatás, az alapvető magán- és közszolgáltatások (pl. egészségügy, banki szolgáltatások), bizonyos rendészeti rendszerek, migráció és határigazgatás, igazságszolgáltatás és demokratikus folyamatok (pl. választások befolyásolása) . Az ilyen rendszereknek fel kell mérniük és csökkenteniük kell a kockázatokat, vezetniük kell a használati naplókat, átláthatóknak és pontosaknak kell lenniük, és biztosítaniuk kell az emberi felügyeletet. A polgároknak jogukban áll panaszt benyújtani az AI-rendszerekkel kapcsolatban, és magyarázatot kapni a jogaikat érintő, magas kockázatú mesterségesintelligencia-rendszereken alapuló döntéseikről.
Átláthatósági követelmények
Az általános célú mesterséges intelligencia (GPAI) rendszereknek és az ezeken alapuló GPAI-modelleknek meg kell felelniük bizonyos átláthatósági követelményeknek, beleértve az EU szerzői jogi törvényeinek való megfelelést és a képzéshez használt tartalom részletes összefoglalóinak közzétételét. Az erősebb GPAI-modellek, amelyek rendszerszintű kockázatot jelenthetnek, további követelményekkel szembesülnek majd, ideértve a modellértékelések elvégzését, a rendszerkockázatok értékelését és mérséklését, valamint az incidensek jelentését.
Ezenkívül a mesterséges vagy manipulált képeket, hang- vagy videótartalmakat („mélyhamisítások”) egyértelműen meg kell jelölni.
Az innovációt és a kkv-kat támogató intézkedések
A szabályozási homokozókat és a valós tesztelést nemzeti szinten kell létrehozni, és hozzáférhetővé kell tenni a kkv-k és az induló vállalkozások számára az innovatív mesterséges intelligencia kifejlesztése és képzése érdekében, mielőtt azok piacra kerülnének.
Idézetek
A keddi plenáris vita során a Belső Piaci Bizottság társelőadója Brando Benifei (S&D, Olaszország) "Végre megvan a világ első kötelező erejű törvénye a mesterséges intelligenciáról a kockázatok csökkentése, a lehetőségek megteremtése, a diszkrimináció elleni küzdelem és az átláthatóság megteremtése érdekében." A Parlamentnek köszönhetően Európában betiltják az elfogadhatatlan mesterséges intelligencia gyakorlatokat, és védik a munkavállalók és a polgárok jogait. Az AI-hivatalt most azért hozzák létre, hogy támogassa a vállalatokat abban, hogy még azok hatályba lépése előtt megkezdjék a szabályok betartását. Biztosítottuk, hogy az emberi lények és az európai értékek álljanak a mesterséges intelligencia fejlődésének középpontjában”.
Az Állampolgári Jogi Bizottság társelőadója Dragos Tudorache (Renew, Románia) azt mondta: „Az EU teljesítette. A mesterséges intelligencia fogalmát összekapcsoltuk azokkal az alapvető értékekkel, amelyek társadalmunk alapját képezik. Mindazonáltal sok munka áll előttünk, amely túlmutat magán az AI-törvényen. A mesterséges intelligencia arra késztet bennünket, hogy gondoljuk újra a demokráciáink középpontjában álló társadalmi szerződést, oktatási modelljeinket, munkaerőpiacunkat és hadviselési módunkat. Az AI-törvény a technológia köré épülő új kormányzási modell kiindulópontja. Most ennek a törvénynek a gyakorlatba történő átültetésére kell összpontosítanunk”.
A következő lépések
A rendeletet még végső jogász-nyelvész ellenőrzésnek vetik alá, és várhatóan a jogalkotási ciklus vége előtt véglegesen elfogadják (az ún. helyesbítés eljárás). A törvényt a Tanácsnak is hivatalosan jóvá kell hagynia.
A határozat a Hivatalos Lapban való közzététele után húsz nappal lép hatályba, és a hatálybalépése után 24 hónappal teljes mértékben alkalmazandó, kivéve: a tiltott tevékenységekre vonatkozó tilalmakat, amelyek a hatálybalépés időpontja után hat hónappal lépnek hatályba; gyakorlati kódexek (kilenc hónappal a hatálybalépést követően); általános célú mesterséges intelligencia-szabályok, beleértve az irányítást (12 hónappal a hatálybalépést követően); valamint a magas kockázatú rendszerekre vonatkozó kötelezettségek (36 hónap).
Háttér
A mesterséges intelligenciáról szóló törvény közvetlenül reagál az Európa Jövőjéről szóló Konferencia (COFE) állampolgári javaslataira, legkonkrétabban javaslat 12. (10) az EU versenyképességének fokozásáról a stratégiai ágazatokban, javaslat 33. (5) egy biztonságos és megbízható társadalomról, beleértve a dezinformáció elleni küzdelmet és annak biztosítását, hogy végső soron az emberek irányítsák az irányítást, 35. javaslat a digitális innováció előmozdításáról, (3) az emberi felügyelet biztosítása mellett (8) a mesterséges intelligencia megbízható és felelős használata, biztosítékok megállapítása és az átláthatóság biztosítása, és javaslat 37 (3) a mesterséges intelligencia és a digitális eszközök felhasználásáról a polgárok – köztük a fogyatékkal élők – információhoz való hozzáférésének javítására.
