Nicht nur das EU-Parlament hat es kürzlich beschlossen, auch die Bundesregierung unterstützt das Vorhaben: Wer Bilder oder Videos auf digitalen Geräten erhält, soll künftig auf den ersten Blick erkennen können, ob sie mithilfe künstlicher Intelligenz (KI) produziert wurden. Die Hersteller solcher Programme werden verpflichtet, jede maschinell generierte Darstellung zu kennzeichnen. So steht es im "AI Act", der ersten europäischen Regelung für künstliche Intelligenz. Allerdings: In Berlin ist der Disput darüber noch nicht ausgestanden. Der Bundesjustizminister ringt noch mit der Bundesinnenministerin, etwa um Fragen der biometrischen Gesichtserkennung.
Immerhin ist man sich in der Bundesregierung einig, dass in sozialen Medien und auf digitalen Plattformen leichter erkennbar sein soll, welche Darstellungen der Wirklichkeit entsprechen - und welche künstlich entstanden sind. Das soll dabei helfen, im Netz Tatsachen von Fake News zu unterscheiden. "Bildmaterial, das durch künstliche Intelligenz hergestellt wurde, sollte meiner Meinung nach als solches kenntlich gemacht werden müssen. Denn Bilder vermitteln das Gefühl von Authentizität. Das kann missbraucht werden", sagte Justizminister Marco Buschmann (FDP) soeben dem Redaktionsnetzwerk Deutschland.
Die Liberalen wollten einflussreiche KI-Hersteller verschonen
Neu ist Buschmanns Haltung nicht, Deutschland hat den "AI Act" über viele Monate mit den EU-Mitgliedstaaten ausgehandelt. Einerseits soll er die Risiken künstlicher Intelligenz eindämmen, andererseits die Zukunftschancen digitaler Spracherkennungs- und Bildprogramme fördern. Bescheide vom Amt etwa könnten dann verstärkt von Maschinen erstellt und verschickt werden. Gleichzeitig müssen aber auch Bürgerrechte gewahrt werden und Betroffene die Möglichkeit erhalten, gegen maschinell erstellte Entscheidungen Einspruch zu erheben.
Buschmann unterstützt also das Vorhaben der EU - aber nicht uneingeschränkt. Die Regelung für KI-Produkte, die Mitte März vom Europäischen Parlament beschlossen wurde und im Mai in Kraft treten soll, sei in Buschmanns Augen eine Chance, Ängste vor neuer Technologie und staatlicher Überwachung abzubauen, heißt es in seinem Haus. Einerseits. Andererseits hat die FDP in Brüssel gebremst. Sie wollte allzu viele Berichts- und Transparenzpflichten für KI-Unternehmen und Start-ups verhindern. Die Liberalen wollten auch Hersteller einflussreicher Programme wie Chat-GPT von der KI-Verordnung verschonen, vergeblich. Unternehmen sollen in der EU nun in Risikoklassen eingeteilt werden, je nachdem, wie groß ihr Einfluss auf Bürger- und Menschenrechte, Wahlen oder lebenswichtige Infrastruktur sein kann.
Bei der geplanten Kennzeichnungspflicht für Bilder und Videos, die aus künstlicher Intelligenz stammen, müssen die Hersteller ihre Programme so konfigurieren, dass die KI-Herkunft der Darstellungen für Nutzer sofort erkennbar wird, mit einer Art Wasserzeichen. Dies stehe kreativer Arbeit nicht im Weg, betonte Buschmann, mache aber ersichtlich, ob es sich bei einem Bild "eher um ein Kunstwerk oder um eine Abbildung der Wirklichkeit" handle. Nachträgliche digitale Manipulationen, die Privatpersonen an Bildern vorgenommen und dann verschickt haben, sind von der neuen Verordnung nicht betroffen.
Faeser will mehr biometrische Fernidentifikation - Buschmann nicht
Umstritten ist in der Bundesregierung noch, wo künstliche Intelligenz dabei helfen darf, Kriminalität zu bekämpfen - etwa, wenn man öffentliche Räume überwacht. Die KI-Verordnung der EU verbietet zwar das "Social Scoring", also dass Menschen wie in China aufgrund biometrischer Daten überwacht und je nach Verhaltensmustern in politische oder soziale Kategorien eingeordnet werden. Erlaubt wird in der EU aber die biometrische Gesichtserkennung in Echtzeit, also die Identifikation von Personen auf öffentlichen Plätzen oder an Bahnhöfen - allerdings nur in Ausnahmefällen, beispielsweise bei der Strafverfolgung.
Wie diese Ausnahmen genau aussehen, müssen nun nationale Regierungen klären. In Deutschland dringt dem Vernehmen nach Innenministerin Nancy Faeser (SPD) auf mehr Zugriffsrechte für Sicherheitsbehörden. Zur Terrorabwehr etwa soll die biometrische Fernidentifikation im öffentlichen Raum stärker genutzt werden können. Justizminister Buschmann hingegen bremst, er fürchtet um Grund- und Bürgerrechte. Auf die Frage, wie es weitergeht bei der Gesichtserkennung, ließ sein Sprecher am Mittwoch noch Redebedarf erkennen: "Das werden wir erst mal prüfen und dann werden wir sehen, wie wir mit dem Gesetzgebungsverfahren hier in Deutschland vorankommen", sagte er. Eine Sprecherin des Bundesinnenministeriums wollte sich nicht äußern. Man stimme sich noch ab, intern.