Danes Evropski zakon o umetni inteligenci (Akt o AI), prva celovita uredba o umetni inteligenci na svetu, začne veljati. Zakon o umetni inteligenci je zasnovan tako, da zagotavlja, da je umetna inteligenca, razvita in uporabljena v EU, vredna zaupanja, z zaščitnimi ukrepi za zaščito temeljnih pravic ljudi. Cilj uredbe je vzpostavitev usklajenega notranjega trga za umetno inteligenco v EU, spodbujanje uporabe te tehnologije in ustvarjanje podpornega okolja za inovacije in naložbe.
Zakon o umetni inteligenci uvaja v prihodnost usmerjeno definicijo umetne inteligence, ki temelji na varnosti izdelkov in pristopu, ki temelji na tveganju v EU:
- Minimalno tveganje: večina sistemov umetne inteligence, kot so sistemi za priporočila, ki podpirajo umetno inteligenco, in filtri neželene pošte, sodi v to kategorijo. Ti sistemi nimajo nobenih obveznosti v skladu z zakonom o umetni inteligenci zaradi minimalnega tveganja za državljane. pravice in varnost. Podjetja lahko prostovoljno sprejmejo dodatne kodekse ravnanja.
- Posebno tveganje preglednosti: sistemi AI, kot so chatboti mora uporabnikom jasno razkriti, da so v interakciji s strojem. Določene vsebine, ustvarjene z umetno inteligenco, vključno z globokimi ponaredki, morajo biti označene kot take, uporabniki pa morajo biti obveščeni, ko se uporabljajo sistemi za biometrično kategorizacijo ali prepoznavanje čustev. Poleg tega bodo morali ponudniki načrtovati sisteme na način, da bo sintetična avdio, video, besedilna in slikovna vsebina označena v strojno berljivi obliki in zaznavna kot umetno ustvarjena ali manipulirana.
- Visoko tveganje: Sisteme umetne inteligence, ki so opredeljeni kot visoko tvegani, bo treba upoštevati stroge zahteve, vključno s sistemi za zmanjšanje tveganja, visoko kakovostjo naborov podatkov, beleženjem dejavnosti, podrobno dokumentacijo, jasnimi informacijami za uporabnike, človeškim nadzorom ter visoko stopnjo robustnosti, natančnosti in kibernetske varnosti. Regulativni peskovniki bodo olajšali odgovorne inovacije in razvoj skladnih sistemov umetne inteligence. Takšni sistemi umetne inteligence z visokim tveganjem vključujejo na primer sisteme umetne inteligence, ki se uporabljajo za zaposlovanje ali oceno, ali je nekdo upravičen do posojila, ali za zagon avtonomnih robotov.
- Nesprejemljivo tveganje: Sistemi umetne inteligence, ki veljajo za očitno grožnjo temeljnim pravicam ljudi, bodo prepovedana. To vključuje sisteme ali aplikacije umetne inteligence, ki manipulirajo s človeškim vedenjem, da bi zaobšli svobodno voljo uporabnikov, kot so igrače, ki uporabljajo glasovno pomoč in spodbujajo nevarno vedenje mladoletnikov, sisteme, ki omogočajo 'družbeno točkovanje' s strani vlad ali podjetij, in nekatere aplikacije prediktivnega nadzora. Poleg tega bodo prepovedane nekatere uporabe biometričnih sistemov, na primer sistemi za prepoznavanje čustev, ki se uporabljajo na delovnem mestu, in nekateri sistemi za kategorizacijo ljudi ali daljinsko biometrično identifikacijo v realnem času za namene kazenskega pregona v javno dostopnih prostorih (z ozkimi izjemami).
Za dopolnitev tega sistema zakon o AI uvaja tudi pravila za t.i splošni modeli AI, ki so zelo zmogljivi modeli umetne inteligence, ki so zasnovani za izvajanje najrazličnejših nalog, kot je ustvarjanje besedila, podobnega človeku. Splošni modeli umetne inteligence se vse pogosteje uporabljajo kot komponente aplikacij umetne inteligence. Zakon o AI bo zagotovil transparentnost vzdolž vrednostne verige in obravnaval morebitna sistemska tveganja najzmogljivejših modelov.
Uporaba in uveljavljanje pravil AI
Države članice morajo do 2. avgusta 2025 imenovati pristojne nacionalne organe, ki bodo nadzorovali uporabo pravil za sisteme umetne inteligence in izvajali dejavnosti nadzora trga. Komisija je Urad za umetno inteligenco bo ključni izvajalski organ za zakon o umetni inteligenci na ravni EU, pa tudi izvrševalec pravil za splošne namene. AI modeli.
Izvajanje pravilnika bodo podpirala tri svetovalna telesa. The Evropski odbor za umetno inteligenco bo zagotovila enotno uporabo zakona o AI EU držav članic in bo deloval kot glavni organ za sodelovanje med Komisijo in državami članicami. Znanstvena skupina neodvisnih strokovnjakov bo nudil tehnične nasvete in prispevek k uveljavljanju. Zlasti lahko ta plošča uradu za umetno inteligenco izda opozorila o tveganjih, povezanih z modeli umetne inteligence za splošne namene. Urad za umetno inteligenco lahko prejme tudi smernice od svetovalni forum, sestavljen iz raznolikega nabora deležnikov.
Podjetja, ki ne bodo spoštovala pravil, bodo kaznovana. Globe bi lahko znašale do 7 % svetovnega letnega prometa za kršitve prepovedanih aplikacij AI, do 3 % za kršitve drugih obveznosti in do 1.5 % za posredovanje napačnih informacij.
Naslednji koraki
Večina pravil zakona o umetni inteligenci se bo začela uporabljati 2. avgusta 2026. Vendar bodo prepovedi sistemov umetne inteligence, za katere menijo, da predstavljajo nesprejemljivo tveganje, veljale že po šestih mesecih, medtem ko bodo pravila za tako imenovane modele umetne inteligence splošne namene veljala po 12 mesecev.
Da bi premostila prehodno obdobje pred popolno uveljavitvijo, je Komisija uvedla Pakt AI. Ta pobuda vabi razvijalce umetne inteligence, da prostovoljno sprejmejo ključne obveznosti zakona o umetni inteligenci pred zakonskimi roki.
Komisija prav tako razvija smernice za opredelitev in podrobnosti o tem, kako naj se izvaja zakon o umetni inteligenci, in olajša koregulativne instrumente, kot so standardi in kodeksi ravnanja. Komisija se je odprla razpis za prijavo interesa sodelovanje pri pripravi prvega splošnega kodeksa ravnanja z umetno inteligenco ter a posvetovanje z več zainteresiranimi stranmi dajanje priložnosti vsem zainteresiranim stranem, da izrazijo svoje mnenje o prvem kodeksu ravnanja v skladu z zakonom o AI.
Ozadje
Na 9 December 2023, Komisija je pozdravila politični dogovor o zakonu o AI. 24. januarja 2024 Komisija je uvedla sveženj ukrepov podpirati evropska zagonska podjetja in MSP pri razvoju zaupanja vredne umetne inteligence. Komisija je 29. maja 2024 predstavil AI Office. 9. julija 2024 je spremenjena uredba EuroHPC JU je začela veljati, kar omogoča postavitev tovarn AI. To omogoča, da se namenski AI-superračunalniki uporabljajo za usposabljanje modelov AI (GPAI).
Nadaljevanje neodvisne, na dokazih temelječe raziskave, ki jo je pripravil Skupno raziskovalno središče (JRC) je bil temeljnega pomena pri oblikovanju politik umetne inteligence EU in zagotavljanju njihovega učinkovitega izvajanja.
