Die EU verschärft die Regeln für Künstliche Intelligenz: Ein neues Gesetz soll den Einsatz von KI sicherer und transparenter machen, bestimmte risikoreiche Anwendungen wie "Social Scoring" und Emotionserkennung werden verboten.
Künstliche Intelligenz (KI) gilt als Zukunftstechnologie, doch die EU ergreift nun Maßnahmen, um die damit verbundenen Gefahren einzudämmen. Die Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. Sie stimmten am Dienstag (21. Mai) in Brüssel Plänen zu, mit denen unter anderem bestimmte KI-Anwendungen ganz verboten werden, wie die Länder mitteilten.
Transparent, sicher und diskriminierungsfrei
Das Gesetz werde die Nutzung von KI in der EU sicherer machen, hieß es in einem Entwurf der EU-Kommission. Es soll sicherstellen, dass KI-Systeme so transparent, nachvollziehbar, diskriminierungsfrei und umweltfreundlich wie möglich sind. Ein wichtiger Aspekt ist, dass KI-Systeme von Menschen und nicht nur von anderen Technologien überwacht werden. Die Pläne gehen auf einen Vorschlag der EU-Kommission aus dem Jahr 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen demnach künftig strenge Anforderungen erfüllen.
Im Video: Weltweit erstes KI-Gesetz in der EU
"Social Scoring" verboten
Bestimmte KI-Anwendungen, die gegen die Werte der EU verstoßen, sollen gänzlich verboten werden. Dazu gehört zum Beispiel die Bewertung des Sozialverhaltens ("Social Scoring"). Dabei werden Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt. Auch die Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.
Die Gesichtserkennung im öffentlichen Raum - also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen - soll grundsätzlich nicht erlaubt sein. Allerdings soll es Ausnahmen geben: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen. Das Gesetz gilt für alle, die in der EU KI-Systeme entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure innerhalb und außerhalb der EU.
Geldstrafen bei Verstößen
Wenn Unternehmen die Vorschriften nicht einhalten, müssen die Mitgliedsstaaten Sanktionen beschließen. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.
- Verwendete Quellen:
- Nachrichtenagentur dpa