KI Gesetz
02:41 Min.. Verfügbar bis 21.05.2026.
KI-Gesetz: Wie die EU die Bürger vor zu gefährlicher KI schützen will
Stand: 21.05.2024, 12:52 Uhr
Die EU-Mitgliedsstaaten haben einer Regulierung von Künstlicher Intelligenz (KI) in der EU zugestimmt. WDR-Digitalexperte Jörg Schieb erläutert die Hintergründe des "AI Act".
Künstliche Intelligenz (KI) ist das mit Abstand mächtigste Werkzeug, das die Menschheit jemals entwickelt hat. Noch ist nicht abzusehen, welche Möglichkeiten sich irgendwann ergeben - welche Chancen und Risiken die neue Technologie in Zukunft mit sich bringt.
Die EU-Staaten haben nun nach langer Zeit der Verhandlung ein "AI Act" genanntes KI-Gesetz beschlossen, das bestimmten Einsatz von KI innerhalb der EU komplett verbietet.
Gesichtserkennung und Massenüberwachung per KI verboten
Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen vollständig verboten werden. So ist eine Massenüberwachung und auch eine massenhafte Gesichtserkennung im öffentlichen Raum ausdrücklich verboten, sowohl dem Staat wie Unternehmen.
Dabei gibt es allerdings Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum im Einzelfall nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verhindern oder zu verfolgen. Bürgerrechtler stoßen sich an dieser Ausnahme.
Diese Einschränkungen erfolgen wohl begründet: In China kommt KI bereits zum Einsatz, um die Bevölkerung engmaschig zu überwachen. Gesichtserkennung identifiziert Personen, die sich in der Öffentlichkeit nicht regelkonform verhalten - und werden mit "Strafpunkten" im sogenannten "Social Scoring" bedacht. Eine albtraumhafte Vorstellung, die durch das KI-Gesetz innerhalb der EU verhindert werden soll.
Transparenzpflichten und Anpassungen
Aber auch KI-Systeme, die als besonders risikoreich gelten und in der kritischen Infrastruktur oder im Bildungs- und Gesundheitswesen zum Einsatz kommen, müssen künftig strenge Anforderungen erfüllen. KI-Systeme dürfen keine eigenständigen Entscheidungen fällen und müssen Transparenzpflichten erfüllen.
KI entwickelt sich derzeit rasant. Die Macher des KI-Gesetzes sind sich darüber im Klaren, dass die Rechtsgrundlage mit der Zeit immer wieder nachjustiert werden muss: um Möglichkeiten nicht unnötig einzuschränken und neue mögliche Risiken einzudämmen. Denn niemand kann heute bereits absehen, welche Optionen KI in ein, zwei oder zehn Jahren bietet.
Vorteile für Verbraucher
Für Nutzer werden Auflagen und Einschränkungen durchaus spürbar werden. So müssen die Menschen über den Einsatz "hochriskanter" KI-Systeme informiert werden. Außerdem muss gewährleistet bleiben, dass Menschen die Kontrolle behalten, etwa bei KI-gestützter Therapie in der Medizin.
Mit KI generierte Bilder müssen gekennzeichnet werden
KI-Systeme müssen außerdem so entwickelt sein, dass Risiken wie Fehler, Manipulationen oder Sicherheitslücken minimiert werden. Auch müssen durch KI erzeugte Inhalte gekennzeichnet werden. Facebook hat im Mai bereits damit begonnen, mit KI erzeugte fotorealistische Bilder mit dem Hinweis "Made with AI" zu kennzeichnen.
Bitkom formuliert Kritik am KI-Gesetz
Der Branchenverband Bitkom kritisiert allerdings, das KI-Gesetz lasse wesentliche Fragen offen. Besonders problematisch sei, dass die eigentliche Regulierungsarbeit - also die Ausformulierung der Gesetze in Deutschland - erst jetzt erfolge. Es sei noch nicht klar, ob die KI-Industrie einen Schub erhalte oder jede Menge Hemmnisse.
In der Tat könnten zu strenge Regeln das Risiko bergen, dass in Europa keine oder weniger KI-Lösungen entwickelt werden. Denn Investoren müssten die Gewissheit haben, dass ungehindert geforscht und entwickelt werden kann - und neue KI-Lösungen getestet und eingesetzt werden können.
KI-Gesetz erst in zwei Jahren vollständig gültig
Das KI-Gesetz ist nun beschlossen. Nach der Bestätigung der EU-Länder werden die neuen KI-Regeln erst einmal im Amtsblatt veröffentlicht und treten 20 Tage später in Kraft. Zwei Jahre nach dem Inkrafttreten sollen sie dann in allen EU-Staaten gelten; jedes einzelne Land muss sie bis dahin in ihrer Gesetzgebung umsetzen.
Verwendete Quellen:
- dpa
- Pressemeldungen des EU-Parlaments
Über den Autor
WDR-Digitalexperte Jörg Schieb
Jörg Schieb, Jahrgang 1964, ist WDR-Digitalexperte und Autor von 130 Fachbüchern und Ratgebern. Er beschäftigt sich seit vielen Jahren mit der Digitalisierung und deren Auswirkungen auf unseren Alltag.