Im neuen Jahresbericht warnt Amnesty International vor diversen Anwendungsmöglichkeiten von KI gegen Minderheiten. Frauen- und Queerrechte stünden unter Beschuss. Was Sebastian Kurz und Investor Peter Thiel damit zu tun haben erfahrt ihr hier!
So warnt Lena Rohrbach, Expertin für Menschenrechte im digitalen Zeitalter, bei der Vorstellung des am vergangenen Mittwoch veröffentlichten Jahresberichts der Menschenrechtsorganisation in Berlin:
„KI kann instrumentalisiert werden, um zu diskriminieren, zu desinformieren und zu spalten.”
Software wie ChatGPT, die Texte erstellt, könne etwa Hassreden gegen Frauen und Homosexuelle am Fließband produzieren und verbreiten.
Lena Rohrbach von Amnesty International über Menschenrechte im Zeitalter des Überwachungskapitalismus und des Überwachungsstaates, Gesichtserkennungstechnologie, EU vs China, Patentfreigabe für Corona-Impfstoffe uvm.
Mit dem Klick auf das Video stimmst Du diesen Datenschutzbestimmungen von YouTube zu
Amnesty prangerte insbesondere den Einsatz von Gesichtserkennung an. Die Bundesregierung habe ihr Versprechen noch nicht eingelöst, Gesichtserkennung im öffentlichen Raum zu verbieten, sagte Rohrbacher. Sowohl bei der Fußball-Europameisterschaft in Deutschland als auch bei den Olympischen Spielen in Paris werde derzeit über den Einsatz von KI debattiert.
„Dabei besteht die Befürchtung, dass dies dauerhaft ausgeweitet wird”, sagte Rohrbacher.
Gesichtserkennung bis Fake-Pornografie – Iran über Russland bis USA
In Russland würden bereits Kameras mit Gesichtserkennung genutzt, um etwa Teilnehmer an regierungskritischen Demonstrationen zu identifizieren, erläuterte sie. Die iranischen Behörden kündigten im vergangenen Jahr an, mit entsprechender Software Frauen zu identifizieren, die sich dem Schleierzwang widersetzen. Und die New Yorker Polizei habe 2023 nach einer Klage von Amnesty International eingeräumt, Gesichtserkennung zur Überwachung von Black-Lives-Matter-Protesten benutzt zu haben.
KI werde zudem genutzt, um Deepfake-Pornographie herzustellen, sagte Rohrbach. Dies betreffe vor allem Frauen. Sie verwies auf das Beispiel einer 17 Jahre alten Ägypterin, die sich das Leben nahm, nachdem gefakte Nacktfotos von ihr verbreitet worden waren. Amnesty kritisierte auch Internettplattformen, die etwa Informationen zu Schwangerschaftsabbrüchen einschränkten.
Daneben komme es auch versehentlich zu Menschenrechtsverletzungen durch KI, etwa beim Einsatz von Algorithmen durch Behörden. In Serbien habe die Einführung eines automatisierten Systems dazu geführt, dass Tausende Familien ´zu Unrecht den Zugang zur Sozialhilfe verloren.
„Eigentlich gibt es eine Frist, in der Menschen die Urteile überprüfen sollen, (…) aber de facto trifft die Entscheidung ein Algorithmus”, erklärte Rohrbach.
Pegasus, Predator – und Palantir?
Besonders problematisch sei laut Amnesty der Einsatz von Spionagesoftware wie Pegasus oder Predator.
Jamal Ahmad Khashoggi war ein saudi-arabischer Journalist. 2018 wurde er, mutmaßlich im Auftrag des Kronprinzen Mohammed bin Salman, in der saudischen Botschaft in Istanbul bestialisch ermordet. Auf dem Mobiltelefon seiner Witwe wurde Pegasus gefunden ...
Mit dem Klick auf das Video stimmst Du diesen Datenschutzbestimmungen von YouTube zu
„Sie ermöglichen ein ganz neues Level an transnationaler Repression”, so Rohrbach.
Im vergangenen Jahr hätten etwa Armenien, Indien und Serbien die Pegasus-Software genutzt, um Medien und die Zivilgesellschaft zu überwachen. Die Software Predator, die von einem europäischen Konsortium hergestellt werde, sei beispielsweise für einen Cyber-Angriff auf einen in Berlin lebenden vietnamesischen Journalisten eingesetzt worden.
EU-Parlament deckt Verbindung zu Kurz und Thiel auf
1 von 2
Foto: Joe Klamar / AFP
Sebastian Kurz
2 von 2
Foto: Marco Bello / Getty Images / AFP
Peter Thiel
Mit Palantir spielt auch einer der umstrittensten Schwulen der Welt ganz vorne im Wettbewerb um die leistungsfähigste KI-Software zur Überwachung mit: Peter Thiel. Im Abschlussbericht des EU-U-Ausschusses zur Spionagesoftware Pegasus wird aber auch Österreichs Ex-Kanzler Sebastian Kurz erwähnt. Dass er enge Verbindungen zum Palantir-Gründer Thiel und dem Miterfinder von Pegasus habe, sieht das EU-Parlament sehr kritisch. Worum geht es ganz genau?
Nach Enthüllungen über angeblich illegale und menschenrechtswidrige Abhöraktionen durch die Spionagesoftware Pegasus setzte das EU-Parlament 2020 einen Untersuchungsausschuss ein. Dieser sollte die missbräuchliche Nutzung von Spyware innerhalb der EU aufklären. Pegasus soll Oppositionspolitiker, Staatsanwälte und Journalisten in mehreren EU-Staaten ausgespäht haben. Über die Verbindung zu Kurz und Thiel schreibt Der Standard:
„Hinter Pegasus steckt die israelische NSO Group, die von Shalev Hulio mitgegründet wurde. Mit ebendem ging Kurz nach seinem Rücktritt als Kanzler eine Geschäftsbeziehung ein. Die beiden gründeten im Oktober 2022 ein Start-up namens Dream Security, das kritische Infrastruktur schützen will. Mit der NSO Group will Hulio nichts mehr zu tun haben. Kurz ist ja auch für den US-amerikanischen Geschäftsmann Peter Thiel unterwegs. Der hatte Palantir Technologies mitgegründet, ein Unternehmen zur Analyse von Big Data. Zahlreiche Kunden von Palantir finden sich im Sicherheitsbereich, etwa US-Nachrichtendienste oder Polizeibehörden. Der EU-Bericht warnt davor, dass Kurz somit eine Achse zwischen Palantir und dem Pegasus-Miterfinder darstellt.”
Palantir wird auch in Deutschland von Polizeibehörden, unter anderem in Nordrhein-Westfalen genutzt. Die lautstarke Kritik aus der EU und von Menschenrechtsorganisationen scheint allerdings Wirkung zu zeigen. Vor einer Woche diskutierte der Innenausschuss im Bundestag über Alternativen zu der umstrittenen Thiel-Software, die selbstverständlich auch eingesetzt werden könnte, um Queers zu verfolgen (Quelle).
Moratorium und Verbote gefordert
Amnesty International fordert sowohl ein Verbot von besonders invasiver Spionagesoftware als auch ein Moratorium für den Handel mit anderen Überwachungstechnologien, bis es dazu internationale Regeln gebe. Die europäische KI-Verordnung sei ein Schritt in die richtige Richtung, biete aber zugleich ein „Einfallstor für Menschenrechtsverletzungen in den besonders grundrechtssensiblen Bereichen Migration und Sicherheit”. Dort müsse die Bundesregierung „national gesetzlich nachschärfen”, so Rohrbacher abschließend.
*Christian Knuth / AFP / kol / mid