Новый план ЕС связывает тщательный анализ передовых моделей с защитой энергетического сектора, здравоохранения, финансов и государственных услуг.
Европейская комиссия представила новый план действий по противодействию киберугрозам, создаваемым передовым искусственным интеллектом, предупреждая, что те же системы, которые способны укреплять цифровую защиту, могут также помогать злоумышленникам находить уязвимости, автоматизировать вторжения и ускорять кибер-инциденты. Этот шаг, опубликованный 7 июля, переводит ЕС от широкого нормотворчества в области ИИ к практической подготовке критически важных секторов.
Этот план появился в непростой момент для цифровой политики Европы. ЕС уже создал обширную правовую базу в отношении искусственного интеллекта, киберустойчивости и ответственности платформ. Новый вопрос заключается в том, смогут ли институты, компании и государственные органы достаточно быстро внедрить эти правила в практику по мере того, как мощные модели становятся все более эффективными и доступными.
Усовершенствованные модели выводят управление рисками на первый план.
В центре деятельности Комиссии План действий по кибербезопасности ИИ Это трехэтапный подход: содействие безопасному и ответственному использованию передового ИИ, укрепление общей кибербезопасности ЕС и расширение европейских возможностей в области ИИ для киберзащиты.
Это отражает двойственную реальность. Системы искусственного интеллекта могут помочь защитникам выявлять уязвимости, анализировать вредоносный код и быстрее реагировать на атаки. Но они также могут снизить барьер для враждебно настроенных субъектов, позволяя проводить кибер-операции с большей скоростью и в большем масштабе. Для больниц, транспортных сетей, энергетических компаний и государственных администраций этот сдвиг не является теоретическим. Он затрагивает услуги, на которые люди полагаются ежедневно.
Комиссия заявляет, что это укрепит способность Европы оценивать передовые модели искусственного интеллекта до их выхода на рынок ЕС. Ожидается, что эта возможность поддержит работу Европейского бюро по ИИ в области регулирования и будет способствовать независимой оценке возможностей и рисков моделей.
Роль ENISA и гарантии для критически важных секторов.
Комиссия будет сотрудничать с Европейским агентством по кибербезопасности (ENISA) над планом обеспечения безопасного доступа к передовым системам искусственного интеллекта в целях кибербезопасности. Также планируется создание защищенной платформы тестирования, которая поможет организациям в критически важных секторах, включая энергетику, транспорт, здравоохранение, финансы и государственное управление, более безопасно изучать и внедрять инструменты ИИ.
Данная инициатива призвана дополнять существующие законы ЕС, включая Закон об искусственном интеллекте, Директиву NIS2, Закон о киберустойчивости, Закон о цифровой операционной устойчивости и Закон о киберсолидарности. Собственный закон Комиссии Руководство по внедрению Закона об искусственном интеллекте В плане кибербезопасности говорится, что он будет способствовать повышению потенциала оценки моделей и безопасному развертыванию в условиях высокого риска.
Брюссель также обещает запустить в ЕС масштабный проект по применению ИИ в кибербезопасности, призванный объединить компании, исследователей и других заинтересованных лиц для разработки средств защиты на основе ИИ. Это направление указывает на более широкую промышленную цель: Европа хочет снизить зависимость от иностранных технологий, избегая при этом системы регулирования, которая замедляет ответственные инновации.
Безопасность и права остаются взаимосвязанными.
План действий представлен как мера по обеспечению кибербезопасности, но его последствия затрагивают гражданские свободы и общественное доверие. Инструменты безопасности на основе искусственного интеллекта могут защитить инфраструктуру и пользователей. Они также могут поднять сложные вопросы о доступе к частным системам, надзоре, обработке данных и соразмерности.
Эти противоречия уже заметны в более широкой цифровой повестке дня Европы. Недавние публикации European Times по этому поводу... Дискуссия о безопасности сканирования детей Было показано, как законодатели ЕС пытаются согласовать защиту от серьезного вреда в интернете с конфиденциальностью частной переписки. Кибербезопасность в сфере ИИ потребует аналогичного подхода: надежная защита без создания расплывчатых или чрезмерных полномочий по слежке.
Заявление Комиссии не создает в одночасье ни одного нового обязательства. Его значимость заключается в инфраструктуре, которую она пытается создать вокруг существующего законодательства: потенциал для оценки, правила безопасного доступа, поддержка внедрения в конкретных секторах и сотрудничество между органами ЕС, национальными властями, промышленностью и исследователями.
Для Европы предстоящим испытанием станет реализация плана. Если план обеспечит надежные гарантии, обмен опытом и полезные инструменты для уязвимых секторов, это может укрепить доверие общественности как к политике в области ИИ, так и к политике в сфере кибербезопасности. Если же реализация будет медленной или неравномерной, разрыв между быстро меняющимися рисками, связанными с ИИ, и институциональной готовностью останется очевидным.
