Werbung
Noch kurz vor den Wahlen zum Europäischen Parlament hat die EU ihr neues KI-Gesetz, auch als AI Act bekannt, beschlossen. Die Regelung ist die weltweit erste ihrer Art und könnte Signalwirkung entfalten. Nach der Veröffentlichung im Amtsblatt tritt das neue Gesetz 20 Tage später in Kraft. Allerdings kommen die neuen Regeln erst zwei Jahre später voll zum Tragen, also im Frühjahr 2026.
Das neue Regelwerk will die Nutzung von KI in der EU sicherer gestalten. KI-Systeme sollen transparenter und nachvollziehbarer sein, nicht diskriminierend und zugleich umweltfreundlich. Entscheidend soll sein, dass KI stets von Menschen überwacht wird und nicht bloß von anderen Technologien. Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen wollen. Somit tangiert die neue Regelung sowohl öffentliche als auch private Akteure innerhalb und außerhalb der EU.
Für den Einsatz in besonders risikoreichen Bereichen und bei kritischen Infrastrukturen sowie im Bildungs- und Gesundheitswesen müssen künftig strenge Anforderungen erfüllt werden. Dies betrifft auch die Gesichtserkennung mittels KI. Um diese einzusetzen, bedarf es einer richterlichen Anordnung. Zudem dürfen Sicherheitsbehörden eine KI-gestützte Gesichtserkennung im öffentlichen Raum nur einsetzen, wenn es um bestimmte Straftaten wie Menschenhandel oder Terrorismus geht.
Andere KI-Anwendungen sind hingegen sogar ganz verboten. Dazu zählt beispielsweise eine Massenüberwachung anhand biometrischer Daten oder auch die Bewertung von sozialem Verhalten, ähnlich dem in China eingesetzten Social Scoring. Auch Emotionserkennung, sowohl am Arbeitsplatz als auch in Bildungseinrichtungen, ist nicht gestattet.
Obwohl die Regelung vielfach als richtungweisend eingestuft wird, gibt es kritische Stimmen. Der Digitalverband Bitkom etwa kritisiert, dass das KI-Gesetz wesentliche Fragen offen lasse. Zudem wird davor gewarnt, dass die Regelungen in zwei Jahren schon überholt sein könnten. So gesteht auch Bundesdigitalminister Volker Wissing ein, dass der Gesetzgeber bei einer sich so schnell verändernden Technologie wie KI dauerhaft gefordert sei.