Уредба, договорено у преговорима са државама чланицама у децембру 2023., подржали су посланици Европског парламента са 523 гласа за, 46 против и 49 уздржаних.
Циљ му је да заштити основна права, демократију, владавину права и еколошку одрживост од високоризичне вештачке интелигенције, уз истовремено подстицање иновација и успостављање Европе као лидера у овој области. Уредба утврђује обавезе за АИ на основу потенцијалних ризика и нивоа утицаја.
Забрањене апликације
Нова правила забрањују одређене АИ апликације које угрожавају права грађана, укључујући системе биометријске категоризације засноване на осетљивим карактеристикама и нециљано гребање слика лица са интернета или ЦЦТВ снимака ради креирања базе података за препознавање лица. Такође ће бити забрањено препознавање емоција на радном месту иу школи, друштвено бодовање, предиктивни рад полиције (када се заснива искључиво на профилисању особе или процени њених карактеристика) и вештачка интелигенција која манипулише људским понашањем или искоришћава рањивост људи.
Изузеци за спровођење закона
Употреба биометријских идентификационих система (РБИ) од стране органа за спровођење закона је у принципу забрањена, осим у исцрпно наведеним и уско дефинисаним ситуацијама. ИРБ „у реалном времену“ може да се примени само ако су испуњене строге мере заштите, нпр. њена употреба је ограничена временски и географски обим и подлеже посебном претходном судском или административном одобрењу. Такве употребе могу укључивати, на пример, циљану потрагу за несталом особом или спречавање терористичког напада. Коришћење оваквих система пост-факто („пост-ремоте РБИ”) сматра се високоризичним случајем употребе, који захтева судско одобрење за повезивање са кривичним делом.
Обавезе за системе високог ризика
Јасне обавезе су такође предвиђене за друге високоризичне системе вештачке интелигенције (због њихове значајне потенцијалне штете по здравље, безбедност, основна права, животну средину, демократију и владавину права). Примери високоризичних употреба вештачке интелигенције укључују критичну инфраструктуру, образовање и стручну обуку, запошљавање, основне приватне и јавне услуге (нпр. здравство, банкарство), одређене системе у спровођењу закона, миграцијама и управљању границама, правосуђу и демократским процесима (нпр. утицај на изборе) . Такви системи морају проценити и смањити ризике, одржавати евиденцију коришћења, бити транспарентни и тачни и обезбедити људски надзор. Грађани ће имати право да подносе жалбе на системе вештачке интелигенције и добијају објашњења о одлукама заснованим на високоризичним системима вештачке интелигенције које утичу на њихова права.
Захтеви за транспарентност
Системи вештачке интелигенције опште намене (ГПАИ) и ГПАИ модели на којима се заснивају морају да испуњавају одређене захтеве транспарентности, укључујући усклађеност са законом о ауторским правима ЕУ и објављивање детаљних сажетака садржаја који се користе за обуку. Снажнији ГПАИ модели који би могли представљати системске ризике суочиће се са додатним захтевима, укључујући извођење евалуације модела, процену и ублажавање системских ризика и извештавање о инцидентима.
Поред тога, вештачке или манипулисане слике, аудио или видео садржај („деепфакес“) морају бити јасно означени као такви.
Мере за подршку иновацијама и МСП
Регулаторни сандбокови и тестирање у стварном свету мораће да се успоставе на националном нивоу и да буду доступни малим и средњим предузећима и почетницима, да би развили и обучили иновативну вештачку интелигенцију пре њеног пласирања на тржиште.
цитати
Током пленарне дебате у уторак, коизвестилац Комитета за унутрашње тржиште Брандо Бенифеи (С&Д, Италија) је рекао: „Коначно имамо први обавезујући закон на свету о вештачкој интелигенцији, за смањење ризика, стварање могућности, борбу против дискриминације и транспарентност. Захваљујући парламенту, у Европи ће бити забрањене неприхватљиве праксе вештачке интелигенције и заштићена права радника и грађана. Канцеларија за вештачку интелигенцију ће сада бити успостављена да подржи компаније да почну да се придржавају правила пре него што она ступе на снагу. Обезбедили смо да људска бића и европске вредности буду у самом центру развоја вештачке интелигенције”.
Коизвестилац Комитета за грађанске слободе Драгош Тудораче (Ренев, Румунија) рекао: „ЕУ је испоручила. Повезали смо концепт вештачке интелигенције са фундаменталним вредностима које чине основу наших друштава. Међутим, предстоји много посла који превазилази сам закон о вештачкој интелигенцији. АИ ће нас подстаћи да поново размислимо о друштвеном уговору у срцу наших демократија, наших модела образовања, тржишта рада и начина на који водимо рат. Закон о вештачкој интелигенцији је полазна тачка за нови модел управљања изграђен око технологије. Сада се морамо фокусирати на спровођење овог закона у пракси”.
Следећи кораци
Уредба је још увек подвргнута завршној адвокатско-лингвистичкој провери и очекује се да ће бити коначно усвојена пре краја сазива (кроз тзв. исправка процедура). Закон такође треба да буде формално усвојен од стране Савета.
Он ће ступити на снагу двадесет дана од дана објављивања у званичном листу, а у потпуности ће се примењивати 24 месеца након ступања на снагу, осим: забране забрањених радњи, које ће се примењивати шест месеци од дана ступања на снагу; кодекси праксе (девет месеци након ступања на снагу); правила АИ опште намене укључујући управљање (12 месеци након ступања на снагу); и обавезе за системе високог ризика (36 месеци).
позадина
Закон о вештачкој интелигенцији директно одговара на предлоге грађана са Конференције о будућности Европе (ЦОФЕ), тачније на предлог 12(10) о јачању конкурентности ЕУ у стратешким секторима, предлог 33(5) о безбедном и поузданом друштву, укључујући сузбијање дезинформација и обезбеђивање да људи на крају имају контролу, предлог 35 о промовисању дигиталних иновација, (3) уз обезбеђивање људског надзора и (8) поуздано и одговорно коришћење вештачке интелигенције, постављање заштитних механизама и обезбеђивање транспарентности, и предлог 37 (3) о коришћењу вештачке интелигенције и дигиталних алата за побољшање приступа грађана информацијама, укључујући особе са инвалидитетом.
