EU beschließt weltweit erstes Gesetz für Künstliche Intelligenz
Mit dem Gesetz über Künstliche Intelligenz (AI Act) will die EU den Einsatz der Technologie sicherer und transparenter gestalten. Am Dienstag haben die EU-Staaten dem Regelwerk endgültig zugestimmt.
Das Gesetz soll die Technologie weitreichend regulieren und gilt als das erste seiner Art weltweit. Es könnte auch Vorbild für andere Länder werden. Der AI Act umfasst eine breite Palette von Anwendungen Künstlicher Intelligenz: Von der Gesichtserkennung über Bewertungssysteme bis hin zu Grundlagenmodellen, die bei Chatbots wie ChatGPT oder Googles Gemini zum Einsatz kommen.
Risikokategorien
KI-Anwendungen werden in dem AI Act unterschiedlichen Risikokategorien zugeordnet. Sie reichen von "inakzeptabel" über "hoch" und "begrenzt" bis zu "minmalem oder keinem Risiko" und unterliegen unterschiedlichen Sicherheits- und Transparenzanforderungen.
Einige Anwendungen werden komplett verboten. Etwa Systeme, die auf Grundlage von Sozialverhalten oder persönlichen Merkmalen Bewertungen vornehmen, die zu einer Schlechterstellung führen (Social Scoring) können oder die Massenüberwachung anhand biometerischer Merkmale. Letztere ist nur in Ausnahmefällen in der Strafverfolgung erlaubt.
Auflagen für hochriskante Anwendungen
Anbieter von Anwendungen, die als hochriskant eingestuft werden, müssen eine Reihe Auflagen erfüllen. Darunter fallen etwa KI-Systeme in Aufzügen oder Seilbahnen ebenso wie Kreditwürdigkeitsprüfungen mit Künstlicher Intelligenz oder KI, die in der Bildung oder im Personalmanagement eingesetzt wird. Für sie müssen Risikobewertungen und/oder Folgenabschätzungen für die Grundrechte vorgelegt werden.
Transparenzpflichten für ChatGPT & Co.
Anbieter von allgemein einsetzbarer Künstliche Intelligenz, unter die etwa Systeme wie ChatGPT fallen, müssen Transparenzpflichten erfüllen und etwa Informationen zu ihren Funktionen und Grenzen, aber auch Trainingsinhalten bereitstellen. Sie müssen auch sicherstellen, dass nicht gegen Urheberrechte verstoßen wird. KI-generierte Texte, Bilder oder Videos müssen gekennzeichnet und Nutzerinnen und Nutzer über die Interaktion mit einer KI aufgeklärt werden.
KI-Systeme, die in Videospielen oder Spam-Filter zum Einsatz kommen, unterliegen hingegen keinerlei Pflichten nach dem Gesetz.
Strafen bis zu 35 Mio. Euro
Bei Verstößen gegen das Gesetz werden je nach Kategorie und Anwendung Strafen zwischen 7,5 Mio. und 35 Mio. Euro oder zwischen einem und 7 Prozent des Jahresumsatzes fällig.
Stufenweise Gültigkeit
In Kraft treten wird das Gesetz 20 Tage nach der Veröffentlichung im Amtsblatt der Europäischen Union, also im Juni. Die einzelnen Verpflichtungen sollen dann stufenweise Gültigkeit erlangen.
Die Regelung für verbotene KI-Praktiken wird etwa bereits 6 Monate nach dem Inkrafttreten des AI Acts, also bereits im Dezember, schlagend. Ab dem kommenden Juni gelten dann etwa auch Transparenzregeln für den Einsatz von ChatGPT & Co. Jene für Hochrisiko-KI-Syteme folgen 2026 und 2027.