Danas, Europski zakon o umjetnoj inteligenciji (Akt o AI), prva opsežna uredba o umjetnoj inteligenciji u svijetu, stupa na snagu. Zakon o umjetnoj inteligenciji osmišljen je kako bi se osiguralo da je umjetna inteligencija razvijena i korištena u EU-u pouzdana, uz zaštitne mjere za zaštitu temeljnih prava ljudi. Uredba ima za cilj uspostaviti usklađeno unutarnje tržište za AI u EU-u, potičući prihvaćanje ove tehnologije i stvaranje poticajnog okruženja za inovacije i investicije.
Zakon o umjetnoj inteligenciji uvodi definiciju umjetne inteligencije usmjerenu prema budućnosti, temeljenu na pristupu koji se temelji na sigurnosti proizvoda i riziku u EU-u:
- Minimalni rizik: Većina AI sustava, kao što su AI-omogućeni sustavi preporuka i filteri neželjene pošte, spadaju u ovu kategoriju. Ovi sustavi nemaju nikakve obveze prema Zakonu o umjetnoj inteligenciji zbog minimalnog rizika za građane. prava i sigurnost. Tvrtke mogu dobrovoljno usvojiti dodatne kodekse ponašanja.
- Poseban rizik transparentnosti: AI sustavi poput chatbota moraju jasno otkriti korisnicima da su u interakciji sa strojem. Određeni sadržaj generiran umjetnom inteligencijom, uključujući duboke krivotvorine, mora biti označen kao takav, a korisnici moraju biti obaviješteni kada se koriste biometrijska kategorizacija ili sustavi za prepoznavanje emocija. Osim toga, pružatelji će morati dizajnirati sustave na način da se sintetički audio, video, tekstualni i slikovni sadržaj označava u strojno čitljivom formatu i da se može otkriti kao umjetno generiran ili manipuliran.
- Visokog rizika: Sustavi umjetne inteligencije koji su identificirani kao visokorizični morat će se pridržavati strogi zahtjevi, uključujući sustave za smanjenje rizika, visoku kvalitetu skupova podataka, bilježenje aktivnosti, detaljnu dokumentaciju, jasne korisničke informacije, ljudski nadzor i visoku razinu robusnosti, točnosti i kibernetičke sigurnosti. Regulatorna zaštićena okruženja olakšat će odgovorne inovacije i razvoj usklađenih sustava umjetne inteligencije. Takvi visokorizični sustavi umjetne inteligencije uključuju primjerice sustave umjetne inteligencije koji se koriste za zapošljavanje, ili za procjenu ima li netko pravo na kredit ili za pokretanje autonomnih robota.
- Neprihvatljiv rizik: Sustavi umjetne inteligencije koji se smatraju jasnom prijetnjom temeljnim pravima ljudi bit će zabranjen. To uključuje AI sustave ili aplikacije koje manipuliraju ljudskim ponašanjem kako bi zaobišle slobodnu volju korisnika, kao što su igračke koje koriste glasovnu pomoć koja potiče opasno ponašanje maloljetnika, sustave koji dopuštaju 'društveno bodovanje' od strane vlada ili tvrtki i određene aplikacije prediktivnog nadzora. Osim toga, neke upotrebe biometrijskih sustava bit će zabranjene, na primjer sustavi za prepoznavanje emocija koji se koriste na radnom mjestu i neki sustavi za kategorizaciju ljudi ili daljinsku biometrijsku identifikaciju u stvarnom vremenu za potrebe provedbe zakona u javno dostupnim prostorima (uz male iznimke).
Kako bi nadopunio ovaj sustav, Zakon o AI također uvodi pravila za tzv AI modeli opće namjene, koji su vrlo sposobni AI modeli koji su dizajnirani za izvođenje širokog spektra zadataka poput generiranja teksta nalik ljudskom. AI modeli opće namjene sve se više koriste kao komponente AI aplikacija. Zakon o umjetnoj inteligenciji osigurat će transparentnost duž lanca vrijednosti i baviti se mogućim sistemskim rizicima najsposobnijih modela.
Primjena i provedba pravila umjetne inteligencije
Države članice imaju rok do 2. kolovoza 2025. da imenuju nacionalna nadležna tijela koja će nadzirati primjenu pravila za sustave umjetne inteligencije i provoditi aktivnosti nadzora tržišta. Komisija je Ured za umjetnu inteligenciju bit će ključno provedbeno tijelo za Zakon o umjetnoj inteligenciji na razini EU-a, kao i provoditelj pravila za opću namjenu AI modeli.
Provedbu pravila podupirat će tri savjetodavna tijela. The Europski odbor za umjetnu inteligenciju osigurat će jedinstvenu primjenu Zakona o AI diljem EU država članica i djelovat će kao glavno tijelo za suradnju između Komisije i država članica. Znanstveni panel neovisnih stručnjaka ponudit će tehničke savjete i informacije o provedbi. Konkretno, ova ploča može Uredu za umjetnu inteligenciju izdati upozorenja o rizicima povezanim s modelima umjetne inteligencije opće namjene. Ured za umjetnu inteligenciju također može dobiti smjernice od savjetodavni forum, sastavljen od raznolikog skupa dionika.
Tvrtke koje se ne pridržavaju pravila bit će novčano kažnjene. Kazne bi mogle iznositi do 7% globalnog godišnjeg prometa za kršenje zabranjenih AI aplikacija, do 3% za kršenje drugih obveza i do 1.5% za davanje netočnih informacija.
Sljedeći koraci
Većina pravila Zakona o umjetnoj inteligenciji počet će se primjenjivati 2. kolovoza 2026. Međutim, zabrane sustava umjetne inteligencije za koje se smatra da predstavljaju neprihvatljiv rizik primjenjivat će se već nakon šest mjeseci, dok će se pravila za takozvane modele umjetne inteligencije opće namjene primjenjivati nakon 12 mjeseci.
Kako bi premostila prijelazno razdoblje prije pune provedbe, Komisija je pokrenula AI pakt. Ova inicijativa poziva programere umjetne inteligencije da dobrovoljno usvoje ključne obveze Zakona o umjetnoj inteligenciji prije zakonskih rokova.
Komisija također razvija smjernice za definiranje i pojedinosti o tome kako bi se Zakon o umjetnoj inteligenciji trebao provoditi i olakšava koregulatorne instrumente poput standarda i kodeksa prakse. Komisija je otvorena poziv za iskazivanje interesa sudjelovati u izradi prvog Kodeksa prakse AI opće namjene, kao i a konzultacije s više dionika davanje prilike svim dionicima da izraze svoje mišljenje o prvom Kodeksu postupanja prema Zakonu o umjetnoj inteligenciji.
pozadina
Na 9 prosincu 2023, Komisija je pozdravila politički dogovor o Zakonu o AI. Dana 24. siječnja 2024 Komisija je pokrenula paket mjera za podršku europskim startupima i malim i srednjim poduzećima u razvoju pouzdane umjetne inteligencije. Komisija je 29. svibnja 2024 predstavio AI Office. Na 9 Srpanj 2024 izmijenjena i dopunjena Uredba EuroHPC JU stupila je na snagu, čime se omogućuje postavljanje AI tvornica. To omogućuje upotrebu namjenskih AI-superračunala za obuku modela AI (GPAI) opće namjene.
Nastavak neovisnog istraživanja temeljenog na dokazima koje je proizveo Zajednički istraživački centar (JRC) bila je ključna u oblikovanju politika AI-a u EU-u i osiguravanju njihove učinkovite provedbe.
