Europäischer Künstlicher Intelligenz-Gesetzesakt tritt in Kraft

Heute ist die Europäisches Gesetz zur künstlichen Intelligenz (KI-Gesetz), die weltweit erste umfassende Verordnung über künstliche Intelligenz, tritt in Kraft. Das KI-Gesetz soll sicherstellen, dass in der EU entwickelte und genutzte KI vertrauenswürdig ist und Schutzbestimmungen zum Schutz der Grundrechte der Menschen enthält. Ziel der Verordnung ist die Schaffung eines harmonisierten Binnenmarkts für KI in der EU, der die Einführung dieser Technologie fördert und Schaffung einer unterstützenden Umgebung für Innovation und Investitionen.

Das KI-Gesetz führt eine zukunftsweisende Definition von KI ein, die auf einem produktsicherheits- und risikobasierten Ansatz in der EU basiert:

• Minimales Risiko: Die meisten KI-Systeme, wie KI-gestützte Empfehlungssysteme und Spamfilter, fallen in diese Kategorie. Diese Systeme unterliegen keinen Verpflichtungen nach dem KI-Gesetz, da ihr Risiko für die Bürger minimal ist. Rechte und Sicherheit. Unternehmen können freiwillig zusätzliche Verhaltenskodizes übernehmen.
• Spezifisches Transparenzrisiko: KI-Systeme wie Chatbots muss den Benutzern klar machen, dass sie mit einer Maschine interagieren. Bestimmte KI-generierte Inhalte, darunter Deep Fakes, müssen als solche gekennzeichnet werden, und die Nutzer müssen informiert werden, wenn biometrische Kategorisierungssysteme oder Emotionserkennungssysteme zum Einsatz kommen. Darüber hinaus müssen Anbieter ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.
• Hohes Risiko: KI-Systeme, die als Hochrisikosysteme eingestuft werden, müssen den strenge Anforderungen, darunter Systeme zur Risikominderung, hohe Qualität der Datensätze, Protokollierung von Aktivitäten, detaillierte Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Regulatorische Sandboxes werden verantwortungsvolle Innovationen und die Entwicklung konformer KI-Systeme erleichtern. Zu solchen risikoreichen KI-Systemen gehören beispielsweise KI-Systeme, die bei der Personalbeschaffung eingesetzt werden, oder um zu beurteilen, ob jemand Anspruch auf einen Kredit hat, oder um autonome Roboter zu steuern.
• Inakzeptables Risiko: KI-Systeme, die als klare Bedrohung für die Grundrechte der Menschen gelten, werden verboten. Dazu gehören KI-Systeme oder Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Benutzer zu umgehen, wie etwa Spielzeuge mit Sprachassistenten, die gefährliches Verhalten von Minderjährigen fördern, Systeme, die ein „Social Scoring“ durch Regierungen oder Unternehmen ermöglichen, und bestimmte Anwendungen der vorausschauenden Polizeiarbeit. Darüber hinaus werden einige Verwendungen biometrischer Systeme verboten sein, beispielsweise Systeme zur Emotionserkennung am Arbeitsplatz und einige Systeme zur Kategorisierung von Personen oder zur biometrischen Fernidentifizierung in Echtzeit für Strafverfolgungszwecke in öffentlich zugänglichen Räumen (mit wenigen Ausnahmen).

Ergänzend zu diesem System führt das KI-Gesetz auch Regeln für sog. allgemeine KI-Modelle, das sind hochleistungsfähige KI-Modelle, die für eine Vielzahl von Aufgaben konzipiert sind, wie etwa die Generierung von menschenähnlichem Text. Allzweck-KI-Modelle werden zunehmend als Komponenten von KI-Anwendungen eingesetzt. Das KI-Gesetz wird für Transparenz entlang der Wertschöpfungskette sorgen und mögliche systemische Risiken der leistungsfähigsten Modelle angehen.

Anwendung und Durchsetzung der KI-Regeln

Die Mitgliedstaaten haben bis zum 2. August 2025 Zeit, zuständige nationale Behörden zu benennen, die die Anwendung der Vorschriften für KI-Systeme überwachen und Marktüberwachungstätigkeiten durchführen. Die Kommission KI-Büro wird das wichtigste Umsetzungsorgan für das KI-Gesetz auf EU-Ebene sein, sowie die Durchsetzung der Regeln für allgemeine KI-Modelle.

Drei Beratungsgremien werden die Umsetzung der Regeln unterstützen. Europäischer Rat für Künstliche Intelligenz wird eine einheitliche Anwendung des KI-Gesetzes in EU Es wird als zentrales Gremium für die Zusammenarbeit zwischen der Kommission und den Mitgliedstaaten fungieren. Ein wissenschaftliches Gremium unabhängiger Experten wird technische Beratung und Input zur Durchsetzung bieten. Insbesondere kann dieses Gremium das AI Office über Risiken im Zusammenhang mit allgemeinen KI-Modellen informieren. Das AI Office kann auch Beratung erhalten von ein Beratungsforum, bestehend aus einer vielfältigen Gruppe von Interessenvertretern.

Unternehmen, die sich nicht an die Regeln halten, werden mit Geldbußen belegt. Diese können bei Verstößen gegen verbotene KI-Anwendungen bis zu sieben Prozent des weltweiten Jahresumsatzes betragen, bei Verstößen gegen sonstige Pflichten bis zu drei Prozent und bei der Bereitstellung falscher Informationen bis zu 7 Prozent.

Nächste Schritte

Die meisten Vorschriften des KI-Gesetzes treten am 2. August 2026 in Kraft. Verbote von KI-Systemen, die ein inakzeptables Risiko darstellen, gelten jedoch bereits nach sechs Monaten, während die Vorschriften für sogenannte Allzweck-KI-Modelle nach zwölf Monaten gelten.

Um die Übergangszeit bis zur vollständigen Umsetzung zu überbrücken, hat die Kommission das KI-PaktDiese Initiative lädt KI-Entwickler dazu ein, wichtige Verpflichtungen des KI-Gesetzes bereits vor den gesetzlichen Fristen freiwillig zu übernehmen. 

Die Kommission entwickelt außerdem Leitlinien, um die Umsetzung des KI-Gesetzes zu definieren und zu konkretisieren, und erleichtert die Einführung koregulierender Instrumente wie Standards und Verhaltenskodizes. Die Kommission eröffnete eine Aufforderung zur Interessenbekundung zur Mitarbeit an der Ausarbeitung des ersten allgemeinen KI-Verhaltenskodexes sowie eines Konsultation mehrerer Interessengruppen allen Beteiligten die Möglichkeit zu geben, ihre Meinung zum ersten Verhaltenskodex im Rahmen des KI-Gesetzes zu äußern.

Hintergrund

Auf 9 Dezember 2023, der Kommission begrüßte die politische Einigung zum KI-Gesetz. Am 24. Januar 2024 Die Kommission hat ein Maßnahmenpaket auf den Weg gebracht zur Unterstützung europäischer Startups und KMU bei der Entwicklung vertrauenswürdiger KI. Am 29. Mai 2024 hat die Kommission enthüllte das AI Office. Auf 9 Juli 2024 die geänderte EuroHPC JU-Verordnung in Kraft getreten, wodurch der Aufbau von KI-Fabriken ermöglicht wird. Dadurch können dedizierte KI-Supercomputer für das Training von General Purpose AI (GPAI)-Modellen verwendet werden.

Kontinuierliche unabhängige, evidenzbasierte Forschung durch die Gemeinsame Forschungsstelle (GFS) hat bei der Gestaltung der KI-Politik der EU und bei der Gewährleistung ihrer wirksamen Umsetzung eine grundlegende Rolle gespielt.