Der Einsatz künstlicher Intelligenz in der EU wird durch das KI-Gesetz, das weltweit erste umfassende KI-Gesetz, geregelt. Finden Sie heraus, wie es Sie schützt.
Als Teil seiner digitale StrategieDie EU will künstliche Intelligenz (KI) regulieren, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen. KI kann viele Vorteile schaffen, wie zum Beispiel eine bessere Gesundheitsversorgung; sicherer und sauberer Transport; effizientere Fertigung; und billigere und nachhaltigere Energie.
Im April 2021 schlug die Europäische Kommission den ersten vor EU Regulierungsrahmen für KI. Darin heißt es, dass KI-Systeme, die in unterschiedlichen Anwendungen eingesetzt werden können, nach ihrem Risiko für Nutzer analysiert und klassifiziert werden. Aufgrund der unterschiedlichen Risikoniveaus wird es mehr oder weniger Regulierung geben. Nach der Verabschiedung werden dies die weltweit ersten Regeln für KI sein.
Was das Parlament von der KI-Gesetzgebung will
Die Priorität des Parlaments Ziel ist es sicherzustellen, dass in der EU eingesetzte KI-Systeme sicher, transparent, nachvollziehbar, nichtdiskriminierend und umweltfreundlich sind. KI-Systeme sollten von Menschen und nicht von Automatisierung überwacht werden, um schädliche Folgen zu verhindern.
Das Parlament möchte außerdem eine technologieneutrale, einheitliche Definition für KI festlegen, die auf zukünftige KI-Systeme angewendet werden könnte.
Erfahren Sie mehr darüber Die Arbeit des Parlaments zur KI und sein Vision für die Zukunft der KI
KI-Gesetz: unterschiedliche Regeln für unterschiedliche Risikostufen
Die neuen Regeln legen Pflichten für Anbieter und Nutzer fest, abhängig vom Grad des Risikos durch künstliche Intelligenz. Obwohl viele KI-Systeme ein minimales Risiko darstellen, müssen sie bewertet werden.
Inakzeptables Risiko
KI-Systeme mit inakzeptablem Risiko gelten als Systeme, die eine Bedrohung für Menschen darstellen und verboten werden. Sie beinhalten:
- Kognitive Verhaltensmanipulation von Menschen oder bestimmten gefährdeten Gruppen: zum Beispiel sprachaktiviertes Spielzeug, das gefährliches Verhalten bei Kindern fördert
- Soziales Scoring: Klassifizierung von Personen anhand ihres Verhaltens, ihres sozioökonomischen Status oder ihrer persönlichen Merkmale
- Biometrische Identifikationssysteme in Echtzeit und aus der Ferne, wie z. B. Gesichtserkennung
Einige Ausnahmen können zulässig sein: Beispielsweise dürfen „postbasierte“ biometrische Fernidentifizierungssysteme, bei denen die Identifizierung mit erheblicher Verzögerung erfolgt, schwere Straftaten strafrechtlich verfolgen, jedoch nur nach gerichtlicher Genehmigung.
Hohes Risiko
KI-Systeme, die sich negativ auf die Sicherheit oder Grundrechte auswirken, gelten als risikoreich und werden in zwei Kategorien eingeteilt:
1) KI-Systeme, die in den darunter fallenden Produkten verwendet werden die Produktsicherheitsgesetzgebung der EU. Dazu gehören Spielzeug, Luftfahrt, Autos, medizinische Geräte und Aufzüge.
2) KI-Systeme fallen in acht spezifische Bereiche, die in einem registriert werden müssen EU Datenbank:
- Biometrische Identifizierung und Kategorisierung natürlicher Personen
- Management und Betrieb kritischer Infrastruktur
- Bildung und Berufsausbildung
- Beschäftigung, Arbeitnehmermanagement und Zugang zur Selbstständigkeit
- Zugang zu und Nutzung wesentlicher privater Dienste und öffentlicher Dienste und Vorteile
- Strafverfolgung
- Migrations-, Asyl- und Grenzkontrollmanagement
- Unterstützung bei der rechtlichen Auslegung und Anwendung des Gesetzes.
Alle KI-Systeme mit hohem Risiko werden vor der Markteinführung und auch während ihres gesamten Lebenszyklus bewertet.
Generative KI
Generative KI müsste wie ChatGPT Transparenzanforderungen erfüllen:
- Offenlegung, dass der Inhalt von KI generiert wurde
- Entwerfen des Modells, um zu verhindern, dass illegale Inhalte generiert werden
- Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für Schulungen verwendet werden
Begrenztes Risiko
KI-Systeme mit begrenztem Risiko sollten minimale Transparenzanforderungen erfüllen, die es Benutzern ermöglichen würden, fundierte Entscheidungen zu treffen. Nach der Interaktion mit den Anwendungen kann der Benutzer dann entscheiden, ob er diese weiterhin verwenden möchte. Benutzer sollten darauf aufmerksam gemacht werden, wenn sie mit KI interagieren. Dazu gehören KI-Systeme, die Bild-, Audio- oder Videoinhalte generieren oder manipulieren, beispielsweise Deepfakes.
Nächste Schritte
Das Parlament soll sich im Juni 2023 auf seine Verhandlungsposition einigen. Danach werden die Gespräche mit den EU-Ländern im Rat über die endgültige Form des Gesetzes beginnen.
Ziel ist es, bis Ende dieses Jahres eine Einigung zu erzielen.
