Nový plán EU propojuje pokročilou kontrolu modelů s ochranou energetiky, zdravotnictví, financí a veřejných služeb.
Evropská komise spustila nový akční plán pro řešení kybernetických rizik, která vytváří pokročilá umělá inteligence, a varuje, že tytéž systémy, které dokáží posílit digitální obranu, mohou útočníkům pomoci najít zranitelnosti, automatizovat vniknutí a urychlit kybernetické incidenty. Tento krok, zveřejněný 7. července, posouvá EU od široké tvorby pravidel v oblasti umělé inteligence k praktické připravenosti pro kritická odvětví.
Plán přichází v citlivém okamžiku pro evropskou digitální politiku. EU již vybudovala hustý právní rámec pro umělou inteligenci, kybernetickou odolnost a odpovědnost platforem. Novou otázkou je, zda instituce, společnosti a veřejné orgány dokáží tato pravidla dostatečně rychle uvést do praxe, jakmile se výkonné modely stanou výkonnějšími a dostupnějšími.
Pokročilé modely posouvají priority v oblasti rizik
V centru pozornosti Komise Akční plán pro kybernetickou bezpečnost v oblasti umělé inteligence je třídílný přístup: podpora bezpečného a zodpovědného využívání pokročilé umělé inteligence, posílení širší kybernetické odolnosti EU a rozšíření evropských schopností umělé inteligence pro kybernetickou obranu.
To odráží dvojí realitu. Systémy umělé inteligence mohou obráncům pomoci odhalit slabiny, analyzovat škodlivý kód a rychleji reagovat na útoky. Mohou však také snížit bariéru pro nepřátelské aktéry, což umožňuje provádět kybernetické operace rychleji a v větším rozsahu. Pro nemocnice, dopravní sítě, energetické operátory a veřejnou správu není tento posun teoretický. Ovlivňuje služby, na které se lidé denně spoléhají.
Komise uvádí, že posílí schopnost Evropy hodnotit pokročilé modely umělé inteligence před jejich uvedením na trh EU. Očekává se, že tato kapacita podpoří regulační práci Evropského úřadu pro umělou inteligenci a přispěje k hodnocení schopností a rizik modelů třetími stranami.
Úloha agentury ENISA a ochranná opatření v kritických sektorech
Komise bude spolupracovat s Agenturou Evropské unie pro kybernetickou bezpečnost (ENISA) na plánu pro bezpečný přístup k pokročilým systémům umělé inteligence pro účely kybernetické bezpečnosti. Plánuje také bezpečnou testovací platformu, která pomůže organizacím v kritických odvětvích, včetně energetiky, dopravy, zdravotnictví, financí a veřejné správy, bezpečněji testovat a nasazovat nástroje umělé inteligence.
Tato iniciativa je navržena tak, aby fungovala vedle stávajících právních předpisů EU, včetně zákona o umělé inteligenci, směrnice NIS2, zákona o kybernetické odolnosti, zákona o digitální operační odolnosti a zákona o kybernetické solidaritě. Vlastní iniciativa Komise Pokyny k implementaci zákona o umělé inteligenci uvádí, že plán kybernetické bezpečnosti podpoří kapacitu pro vyhodnocování modelů a bezpečné nasazení ve vysoce rizikových prostředích.
Brusel také slibuje Velkou výzvu EU v oblasti umělé inteligence pro kybernetickou bezpečnost, jejímž cílem je spojit firmy, výzkumníky a další zúčastněné strany s cílem vyvinout obranné nástroje založené na umělé inteligenci. Tato oblast poukazuje na širší průmyslový cíl: Evropa chce snížit závislost na zahraničních technologiích a zároveň se vyhnout regulačnímu systému, který brzdí zodpovědné inovace.
Bezpečnost a práva zůstávají propojeny
Akční plán je koncipován jako opatření v oblasti kybernetické bezpečnosti, ale jeho důsledky sahají do občanských svobod a veřejné důvěry. Bezpečnostní nástroje založené na umělé inteligenci mohou chránit infrastrukturu a uživatele. Mohou však také vyvolat složité otázky týkající se přístupu k soukromým systémům, dohledu, nakládání s daty a proporcionality.
Toto napětí je již viditelné v širší digitální agendě Evropy. Nedávné zpravodajství European Times o debata o skenování bezpečnosti dětí ukázalo, jak se zákonodárci EU snaží sladit ochranu před vážnými online újmami se soukromím soukromé komunikace. Kybernetická bezpečnost s využitím umělé inteligence bude vyžadovat podobnou disciplínu: silnou obrannou kapacitu bez vytváření vágních nebo nadměrných pravomocí v oblasti dohledu.
Oznámení Komise nevytváří přes noc jedinou novou povinnost. Jeho význam spočívá v infrastruktuře, kterou se snaží vybudovat na základě stávajících právních předpisů: hodnotící kapacita, pravidla bezpečného přístupu, podpora zavádění specifická pro daná odvětví a spolupráce mezi orgány EU, vnitrostátními orgány, průmyslem a výzkumníky.
Pro Evropu bude nadcházející zkouškou realizace. Pokud plán přinese důvěryhodné záruky, sdílené odborné znalosti a použitelné nástroje pro zranitelné sektory, mohl by posílit důvěru veřejnosti v politiku v oblasti umělé inteligence i kybernetické bezpečnosti. Pokud bude implementace pomalá nebo nerovnoměrná, zůstane propast mezi rychle se vyvíjejícími riziky umělé inteligence a institucionální připraveností stále odhalená.
