Използването на изкуствен интелект в ЕС ще се регулира от Закона за ИИ, първият в света всеобхватен закон за ИИ. Разберете как ще ви защити.
Като част от своята дигитална стратегия, ЕС иска да регулира изкуствения интелект (AI), за да осигури по-добри условия за разработването и използването на тази иновативна технология. AI може да създаде много предимства, като по-добро здравеопазване; по-безопасен и по-чист транспорт; по-ефективно производство; и по-евтина и по-устойчива енергия.
През април 2021 г. Европейската комисия предложи първото EU регулаторна рамка за ИИ. В него се казва, че AI системите, които могат да се използват в различни приложения, се анализират и класифицират според риска, който представляват за потребителите. Различните нива на риск ще означават повече или по-малко регулиране. След като бъдат одобрени, това ще бъдат първите в света правила за AI.
Какво иска парламентът от законодателството за ИИ
Приоритет на парламента е да се гарантира, че системите за ИИ, използвани в ЕС, са безопасни, прозрачни, проследими, недискриминационни и щадящи околната среда. AI системите трябва да се контролират от хора, а не от автоматизация, за да се предотвратят вредни резултати.
Парламентът също така иска да създаде технологично неутрална, единна дефиниция за ИИ, която може да се приложи към бъдещи системи с ИИ.
Научете повече за Работата на парламента по ИИ и неговата визия за бъдещето на AI
Закон за ИИ: различни правила за различни нива на риск
Новите правила установяват задължения за доставчици и потребители в зависимост от нивото на риск от изкуствения интелект. Докато много AI системи представляват минимален риск, те трябва да бъдат оценени.
Неприемлив риск
Системите с изкуствен интелект с неприемлив риск са системи, считани за заплаха за хората и ще бъдат забранени. Те включват:
- Когнитивна поведенческа манипулация на хора или специфични уязвими групи: например играчки с гласово активиране, които насърчават опасно поведение при деца
- Социално оценяване: класифициране на хора въз основа на поведение, социално-икономически статус или лични характеристики
- Системи за биометрична идентификация в реално време и от разстояние, като лицево разпознаване
Може да се допуснат някои изключения: например „пост“ системи за дистанционна биометрична идентификация, при които идентификацията се извършва след значително забавяне, ще бъдат разрешени за наказателно преследване на сериозни престъпления, но само след одобрение от съда.
Висок риск
Системите с изкуствен интелект, които влияят отрицателно върху безопасността или основните права, ще се считат за високорискови и ще бъдат разделени на две категории:
1) AI системи, които се използват в продуктите, попадащи под законодателството на ЕС за безопасност на продуктите. Това включва играчки, авиация, автомобили, медицински изделия и асансьори.
2) AI системи, попадащи в осем специфични области, които ще трябва да бъдат регистрирани в an EU база данни:
- Биометрична идентификация и категоризация на физически лица
- Управление и експлоатация на критична инфраструктура
- Образование и професионално обучение
- Заетост, управление на работниците и достъп до самостоятелна заетост
- Достъп до и ползване на основни частни услуги и обществени услуги и предимства
- Правоприлагането
- Управление на миграция, убежище и граничен контрол
- Съдействие при правно тълкуване и прилагане на закона.
Всички системи с изкуствен интелект с висок риск ще бъдат оценени преди да бъдат пуснати на пазара, както и през целия им жизнен цикъл.
Генеративен AI
Генеративният AI, като ChatGPT, ще трябва да отговаря на изискванията за прозрачност:
- Разкриване, че съдържанието е генерирано от AI
- Проектиране на модела, за да се предотврати генерирането на незаконно съдържание
- Публикуване на резюмета на защитени с авторски права данни, използвани за обучение
Ограничен риск
Системите с изкуствен интелект с ограничен риск трябва да отговарят на минимални изисквания за прозрачност, което ще позволи на потребителите да вземат информирани решения. След като взаимодейства с приложенията, потребителят може да реши дали иска да продължи да го използва. Потребителите трябва да бъдат информирани, когато взаимодействат с AI. Това включва AI системи, които генерират или манипулират изображение, аудио или видео съдържание, например deepfakes.
Следващи стъпки
Парламентът трябва да съгласува преговорната си позиция през юни 2023 г., след което ще започнат разговори със страните от ЕС в Съвета за окончателната форма на закона.
Целта е да се постигне споразумение до края на тази година.
