In einer Erklärung vom Freitag sagten die Experten, dass neue Technologien, darunter auf künstlicher Intelligenz basierende biometrische Überwachungssysteme, zunehmend „in sensiblen Kontexten“ eingesetzt würden. ohne das Wissen oder die Zustimmung des Einzelnen
Es müssen „dringende rote Linien“ gezogen werden
„Für Technologien, die den Anspruch erheben, Emotionen oder Geschlecht zu erkennen, sind dringende und strenge regulatorische rote Linien erforderlich“, sagten die Experten, zu denen auch Fionnuala Ní Aoláin, Sonderberichterstatterin für die Förderung und den Schutz der Menschenrechte bei der Terrorismusbekämpfung, gehört.
Der Menschenrechtsrat-ernannte Experten verurteilten den bereits „alarmierenden“ Einsatz und die Auswirkungen von Spyware und Überwachungstechnologien auf die Arbeit von Menschenrechtsverteidigern und Journalisten, „oft unter dem Deckmantel nationaler Sicherheits- und Terrorismusbekämpfungsmaßnahmen“.
Sie forderten außerdem eine Regulierung, um der rasanten Entwicklung generativer KI entgegenzuwirken, die die Massenproduktion gefälschter Online-Inhalte ermöglicht, die Desinformation und Hassreden verbreiten.
Konsequenzen für die reale Welt
Die Experten betonten die Notwendigkeit, sicherzustellen, dass diese Systeme Menschen und Gemeinschaften nicht noch mehr aussetzen Menschenrechte Verstöße, unter anderem durch die Ausweitung und den Missbrauch invasiver Überwachungspraktiken, die das Recht auf Privatsphäre verletzen, erleichtern die Begehung schwerer Menschenrechtsverletzungen, einschließlich Verschwindenlassen, und Diskriminierung.
Sie äußerten auch Bedenken hinsichtlich der Achtung der Meinungs-, Gedanken- und Meinungsfreiheit. friedlicher Protest, und für den Zugang zu wesentlichen wirtschaftlichen, sozialen und kulturellen Rechten sowie humanitären Diensten.
„Spezifische Technologien und Anwendungen sollten gänzlich vermieden werden, wenn dies der Fall ist.“ Eine Regulierung von Menschenrechtsbeschwerden ist nicht möglich“, sagten die Experten.
Die Experten äußerten auch Bedenken darüber, dass die generative KI-Entwicklung von einer kleinen Gruppe mächtiger Akteure, darunter Unternehmen und Investoren, vorangetrieben wird, ohne dass angemessene Anforderungen für die Durchführung einer menschenrechtlichen Due-Diligence-Prüfung oder Konsultation betroffener Einzelpersonen und Gemeinschaften bestehen.
Und die entscheidende Aufgabe der internen Regulierung durch die Moderation von Inhalten wird oft von Einzelpersonen in Situationen der Arbeitsausbeutung übernommen, stellten die unabhängigen Experten fest.
Mehr Transparenz
„Eine Regulierung ist dringend erforderlich, um Transparenz zu gewährleisten, Menschen auf synthetische Medien aufmerksam zu machen und die Öffentlichkeit über die verwendeten Trainingsdaten und -modelle zu informieren“, sagten die Experten.
Die Experten bekräftigten ihre Aufrufe zur Vorsicht über den Einsatz digitaler Technologien im Kontext humanitärer Krisen, von der groß angelegten Datenerfassung – einschließlich der Erfassung hochsensibler biometrischer Daten – bis zum Einsatz fortschrittlicher gezielter Überwachungstechnologien.
„Wir drängen auf Zurückhaltung beim Einsatz solcher Maßnahmen, bis die umfassenderen Auswirkungen auf die Menschenrechte vollständig verstanden sind und solide Datenschutzgarantien vorhanden sind“, sagten sie.
Verschlüsselung und Datenschutz stehen an erster Stelle
Sie unterstrichen die Notwendigkeit, technische Lösungen sicherzustellen – einschließlich Starke Ende-zu-Ende-Verschlüsselung und uneingeschränkter Zugriff auf virtuelle private Netzwerke – und die digitale Kommunikation sichern und schützen.
"Beide Industrie und Staaten müssen zur Rechenschaft gezogen werden, auch wegen ihrer wirtschaftlichen, sozialen, ökologischen und menschenrechtlichen Auswirkungen“, sagten sie. „Die nächste Generation von Technologien darf keine Systeme der Ausgrenzung reproduzieren oder verstärken, Diskriminierung und Unterdrückungsmuster.“
Sonderberichterstatter und andere Rechtsexperten werden alle vom UN-Menschenrechtsrat ernannt, haben den Auftrag, bestimmte thematische Themen oder Ländersituationen zu überwachen und darüber zu berichten, sind keine UN-Mitarbeiter und erhalten für ihre Arbeit kein Gehalt.
