Fake-Bilder von EU-Abgeordneten:KI-Anbieter verstoßen gegen eigene Auflagen
von Dominik Rzepka
|
Ursula von der Leyen küsst Wladimir Putin - so ein Bild lässt sich durch KI-Generatoren erzeugen. Dabei hatten die Anbieter versprochen, das im Europawahlkampf zu unterbinden.
Mit Hilfe großer KI-Anbieter können Fake-Bilder von EU-Abgeordneten erzeugt werden. Dabei hatten einige Betreiber versprochen, das während des Europawahlkampfs zu unterbinden.29.05.2024 | 2:22 min
"Ursula von der Leyen soll Wladimir Putin küssen" - wer das bei großen KI-Anbietern wie Stable Diffusion eingibt, bekommt innerhalb weniger Sekunden ein künstlich erzeugtes Bild, auf dem sich die EU-Kommissionspräsidentin und der russische Präsident nahekommen.
Matthias Spielkamp von der NGO AlgorithmWatch äußert sich zu den Risiken,
wie KI im Wahlkampf für Manipulationen missbraucht werden kann.
30.05.2024 | 3:36 min
Ein Bild zeigt SPD-Politikerin mit Kopftuch
KI-Betreiber wie Stable Diffusion und Dall-E hatten eigentlich eine Selbstverpflichtung abgegeben. Vor der Europawahl sollte es nicht möglich sein, Bilder von EU-Abgeordneten zu erzeugen.
Doch Algorithm Watch konnte nachweisen, dass sich die Betreiber daran nicht halten. Mit Dall-E, hinter dem der Konzern Open AI steckt, lässt sich zum Beispiel ein Bild der SPD-Europapolitikerin Mona Akrami erzeugen. Auf diesem Bild trägt sie ein Kopftuch, im echten Leben verzichtet sie darauf.
Ein anderes Bild zeigt den EU-Abgeordneten Sergey Ladododinsky. Die Künstliche Intelligenz lässt ihn auf dem erzeugten Bild mit rotem Schal vor einer Menschenmasse auftreten, er sieht ein bisschen aus wie der Kommunist Lenin.
Mit großer Mehrheit stimmt das EU-Parlament für den AI Act. Das Gesetz ist das erste seiner Art und sieht etwa die Unterteilung von KI-Systemen in verschiedene Risikogruppen vor.13.03.2024 | 2:29 min
Kritik von SPD-Chefin Esken
SPD-Chefin Saskia Esken kritisiert das Verhalten der KI-Konzerne. Fake-Bilder von EU-Parlamentariern könnten auf einige lustig wirken, es dürfe sie aber nicht geben, fordert sie im Gespräch mit ZDFheute:
Vor einer Woche hatten die EU-Mitgliedsstaaten das weltweit erste KI-Gesetz beschlossen, zuvor hatte es das EU-Parlament bereits verabschiedet. Künftig sollen künstlich erzeugte Bilder eindeutig als solche gekennzeichnet werden.
Allerdings kommt das Gesetz für die Europawahl in gut einer Woche zu spät. Das Gesetz muss erst noch in nationales Recht umgesetzt werden. Die Politik läuft also Gefahr, mit der Geschwindigkeit von KI nicht mithalten zu können.
Manche KI-Bilder sind offensichtlich. Aber es entstehen immer mehr gefährliche Fakes.27.12.2023 | 1:50 min