In einer Erklärung vom Freitag sagten die Experten, dass neue Technologien, darunter biometrische Überwachungssysteme auf Basis künstlicher Intelligenz, zunehmend „in sensiblen Kontexten“ eingesetzt würden. ohne Wissen oder Zustimmung der betroffenen Person
Es müssen dringend rote Linien gezogen werden
„Es bedarf dringend strenger regulatorischer Vorgaben für Technologien, die angeblich Emotionen oder das Geschlecht erkennen“, erklärten die Experten, zu denen auch Fionnuala Ní Aoláin, Sonderberichterstatterin für die Förderung und den Schutz der Menschenrechte im Kampf gegen den Terrorismus, gehört.
Der MenschenrechtsratDie von der UN-Volksversammlung ernannten Experten verurteilten den bereits „alarmierenden“ Einsatz von Spyware und Überwachungstechnologien sowie deren Auswirkungen auf die Arbeit von Menschenrechtsverteidigern und Journalisten, „oft unter dem Deckmantel nationaler Sicherheits- und Terrorismusbekämpfungsmaßnahmen“.
Sie forderten außerdem eine Regulierung, um der rasanten Entwicklung der generativen künstlichen Intelligenz Rechnung zu tragen, die eine Massenproduktion gefälschter Online-Inhalte ermöglicht, die Desinformation und Hassreden verbreiten.
Konsequenzen für die reale Welt
Die Experten betonten, dass sichergestellt werden müsse, dass diese Systeme Menschen und Gemeinschaften nicht noch mehr Menschenrechte Verstöße, unter anderem durch die Ausweitung und den Missbrauch invasiver Überwachungspraktiken, die das Recht auf Privatsphäre verletzen, erleichtern die Begehung schwerer Menschenrechtsverletzungen, darunter das Verschwindenlassen von Personen und Diskriminierung.
Sie äußerten auch ihre Besorgnis über die Achtung der Meinungs- und Gedankenfreiheit, friedlicher Protest, und für den Zugang zu grundlegenden wirtschaftlichen, sozialen und kulturellen Rechten sowie humanitären Diensten.
„Bestimmte Technologien und Anwendungen sollten gänzlich vermieden werden, wenn die Regulierung von Menschenrechtsbeschwerden ist nicht möglich“, sagten die Experten.
Die Experten äußerten außerdem ihre Besorgnis darüber, dass die Entwicklung generativer KI von einer kleinen Gruppe einflussreicher Akteure vorangetrieben wird, darunter Unternehmen und Investoren, ohne dass ausreichende Voraussetzungen für eine sorgfältige Prüfung der Menschenrechte oder eine Konsultation der betroffenen Einzelpersonen und Gemeinschaften gegeben wären.
Und die entscheidende Aufgabe der internen Regulierung durch die Moderation von Inhalten werde häufig von Einzelpersonen übernommen, die sich in einer Situation der Arbeitsausbeutung befänden, stellten die unabhängigen Experten fest.
Mehr Transparenz
„Es bedarf dringend einer Regulierung, um Transparenz zu gewährleisten, die Menschen zu warnen, wenn sie auf synthetische Medien stoßen, und die Öffentlichkeit über die verwendeten Trainingsdaten und Modelle zu informieren“, so die Experten.
Die Experten wiederholten ihre Mahnungen zur Vorsicht über den Einsatz digitaler Technologien im Kontext humanitärer Krisen, von der groß angelegten Datenerfassung – einschließlich der Erfassung hochsensibler biometrischer Daten – bis hin zum Einsatz fortschrittlicher gezielter Überwachungstechnologien.
„Wir fordern zur Zurückhaltung bei der Anwendung solcher Maßnahmen auf, bis die umfassenderen Auswirkungen auf die Menschenrechte vollständig verstanden sind und robuste Datenschutzvorkehrungen getroffen wurden“, sagten sie.
Verschlüsselung und Datenschutz stehen an erster Stelle
Sie unterstrichen die Notwendigkeit technischer Lösungen – einschließlich starke Ende-zu-Ende-Verschlüsselung und ungehinderter Zugriff auf virtuelle private Netzwerke – und sichern und schützen Sie die digitale Kommunikation.
"Beide Industrie und Staaten müssen zur Verantwortung gezogen werden, einschließlich ihrer wirtschaftlichen, sozialen, ökologischen und menschenrechtlichen Auswirkungen“, sagten sie. „Die nächste Generation von Technologien dürfen keine Ausgrenzungssysteme reproduzieren oder verstärken, Diskriminierung und Unterdrückungsmuster.“
Sonderberichterstatter und andere Menschenrechtsexperten werden alle vom UN-Menschenrechtsrat ernannt und haben den Auftrag, bestimmte thematische Fragen oder die Situation eines Landes zu beobachten und darüber zu berichten. Sie sind keine UN-Mitarbeiter und erhalten für ihre Arbeit kein Gehalt.
