У середу парламент схвалив Закон про штучний інтелект, який забезпечує безпеку та дотримання основних прав, одночасно стимулюючи інновації.
Регламент, узгоджено на переговорах з державами-членами в грудні 2023, був схвалений євродепутатами 523 голосами «за», 46 «проти» та 49 утрималися.
Він спрямований на захист фундаментальних прав, демократії, верховенства права та стійкості навколишнього середовища від штучного інтелекту з високим ризиком, одночасно стимулюючи інновації та утверджуючи Європу як лідера в цій галузі. Регламент встановлює зобов’язання для ШІ на основі його потенційних ризиків і рівня впливу.
Заборонені програми
Нові правила забороняють певні додатки штучного інтелекту, які загрожують правам громадян, включно з системами біометричної категоризації на основі конфіденційних характеристик і нецільового збирання зображень обличчя з Інтернету або записів камер відеоспостереження для створення баз даних розпізнавання облич. Розпізнавання емоцій на робочому місці та в школах, соціальна оцінка, прогнозна поліція (якщо вона ґрунтується виключно на профілюванні особи чи оцінці її характеристик), а також штучний інтелект, який маніпулює людською поведінкою або використовує вразливі місця людей, також буде заборонено.
Винятки для правоохоронних органів
Використання біометричних систем ідентифікації (СІР) правоохоронними органами в принципі заборонено, за винятком вичерпно перелічених і вузько визначених ситуацій. RBI «в реальному часі» може бути розгорнуто лише за умови дотримання суворих заходів безпеки, наприклад, його використання обмежене за часом і географічно, а також за умови спеціального попереднього судового або адміністративного дозволу. Такі види використання можуть включати, наприклад, цілеспрямований пошук зниклої особи або запобігання терористичному нападу. Використання таких систем постфактум («після віддаленого RBI») вважається випадком використання з високим ризиком, який потребує судового дозволу, пов’язаного з кримінальним злочином.
Зобов'язання для систем високого ризику
Чіткі зобов’язання також передбачені для інших систем штучного інтелекту з високим ризиком (через їх значну потенційну шкоду для здоров’я, безпеки, основних прав, навколишнього середовища, демократії та верховенства права). Приклади використання штучного інтелекту з високим ризиком включають критичну інфраструктуру, освіту та професійну підготовку, працевлаштування, основні приватні та державні послуги (наприклад, охорона здоров’я, банки), певні системи правоохоронних органів, управління міграцією та кордонами, правосуддя та демократичні процеси (наприклад, вплив на вибори) . Такі системи повинні оцінювати та зменшувати ризики, вести журнали використання, бути прозорими та точними та забезпечувати людський контроль. Громадяни матимуть право подавати скарги на системи штучного інтелекту та отримувати пояснення щодо рішень, заснованих на системах високого ризику штучного інтелекту, які впливають на їхні права.
Вимоги до прозорості
Системи штучного інтелекту загального призначення (GPAI) і моделі GPAI, на яких вони базуються, мають відповідати певним вимогам щодо прозорості, включаючи дотримання законодавства ЄС про авторське право та публікацію детальних резюме вмісту, який використовується для навчання. Потужніші моделі GPAI, які можуть створювати системні ризики, стикаються з додатковими вимогами, включаючи виконання оцінки моделі, оцінку та пом’якшення системних ризиків, а також звітування про інциденти.
Крім того, штучні або підроблені зображення, аудіо- чи відеоконтент («дипфейки») повинні бути чітко позначені як такі.
Заходи підтримки інновацій та МСП
Регуляторні «пісочниці» та тестування в реальному світі необхідно буде створити на національному рівні та зробити доступними для малих і середніх підприємств і стартапів для розробки та навчання інноваційного штучного інтелекту перед його розміщенням на ринку.
лапки
Під час пленарних дебатів у вівторок співдоповідач Комітету внутрішнього ринку Брандо Беніфей (S&D, Італія) сказав: «Нарешті ми маємо перший у світі обов’язковий закон про штучний інтелект, щоб зменшити ризики, створити можливості, боротися з дискримінацією та забезпечити прозорість. Завдяки парламенту неприйнятні практики ШІ будуть заборонені в Європі, а права працівників і громадян будуть захищені. Тепер буде створено Офіс штучного інтелекту, який допоможе компаніям почати дотримуватись правил до того, як вони набудуть чинності. Ми переконалися, що люди та європейські цінності знаходяться в самому центрі розвитку ШІ».
Співдоповідач Комітету громадянських свобод Dragos Tudorache (Renew, Румунія) сказав: «ЄС досяг. Ми пов’язали концепцію штучного інтелекту з фундаментальними цінностями, які є основою наших суспільств. Однак попереду ще багато роботи, яка виходить за рамки самого Закону про штучний інтелект. ШІ змусить нас переосмислити суспільний договір, який лежить в основі наших демократій, наші моделі освіти, ринки праці та спосіб ведення війни. Закон про штучний інтелект є відправною точкою для нової моделі управління, побудованої навколо технологій. Зараз ми маємо зосередитися на тому, щоб цей закон був реалізований».
Наступні кроки
Положення все ще підлягає остаточній юрист-лінгвістичній перевірці та, як очікується, буде остаточно прийнято до кінця законодавчого терміну (через т.зв. виправлення процедура). Закон також має бути офіційно схвалений Радою.
Він набуде чинності через двадцять днів після його публікації в офіційному журналі та буде повністю застосований через 24 місяці після набуття ним чинності, за винятком: заборони на заборонені практики, які застосовуватимуться через шість місяців після дати набуття чинності; кодекси практики (через дев'ять місяців після набрання чинності); правила штучного інтелекту загального призначення, включаючи управління (12 місяців після набуття чинності); та зобов'язання для систем високого ризику (36 місяців).
фон
Закон про штучний інтелект безпосередньо відповідає на пропозиції громадян Конференції про майбутнє Європи (COFE), а саме на пропозиція 12(10) про підвищення конкурентоспроможності ЄС у стратегічних секторах, пропозиція 33(5) на безпечне та надійне суспільство, включаючи протидію дезінформації та забезпечення повного контролю над людьми, пропозиція 35 про сприяння цифровим інноваціям, (3) забезпечуючи нагляд з боку людини та (8) надійне та відповідальне використання штучного інтелекту, встановлення захисних заходів та забезпечення прозорості, а також пропозиція 37 (3) щодо використання штучного інтелекту та цифрових інструментів для покращення доступу громадян до інформації, у тому числі людей з обмеженими можливостями.
