Dass Künstliche Intelligenz nicht nur für gute Zwecke eingesetzt werden kann, ist hinlänglich bekannt. Dass sie auch dazu führen kann, dass ein Schuldirektor fälschlicherweise suspendiert wird, zeigt diese filmreife Geschichte aus den USA, an deren Ende eine Verhaftung stand.
Polizei: Mann wollte Entlassung des Schuldirektors forcieren
Die Polizei vom Baltimore County hat einen Sportlehrer in Gewahrsam genommen, dem vorgeworfen wird, die Stimme seines Schuldirektors mithilfe von KI nachgemacht zu haben. Was im ersten Moment lustig klingt, war es in diesem Fall keineswegs, denn der Beschuldigte soll dem Schuldirektor so eine rassistische Beschimpfung in den Mund gelegt haben, um dessen Entlassung zu forcieren.
Laut lokalen Medien geht die Polizei davon aus, dass eine Sprachaufzeichnung, die Anfang des Jahres in den sozialen Medien die Runde machte und in der angeblich rassistische und antisemitische Kommentare des Schuldirektors der Pikesville High School zu hören sind, eine Fälschung war.
Expert:innen bestätigen den angeblichen Stimmenklau
Expert:innen sagten dem Baltimore Banner und der Polizei, dass die Aufnahme, die kurzzeitig zur Suspendierung des Schuldirektors geführt hatte, einen "flachen Ton, ungewöhnlich klare Hintergrundgeräusche und das Fehlen konsistenter Atemgeräusche oder Pausen" aufweise.
Die Spur führte schnell zu einem ehemaligen Sportlehrer der Highschool. Er soll Schulcomputer verwendet haben, "um auf OpenAI-Tools und Microsoft-Bing-Chat-Dienste zuzugreifen", hieß es in Medienberichten. Welche KI er konkret verwendet haben soll, wurde laut The Verge nicht bekannt.
OpenAI hält Text-zu-Sprache-KI zurück
Wie es sich für einen guten Krimi gehört, verhaftete die Polizei den Beschuldigten am Donnerstag am Flughafen und teilte in einer Erklärung mit, der Sportlehrer habe sich wohl am Rektor rächen wollen, weil dieser schulinterne Ermittlungen gegen ihn aufgrund des angeblichen Missbrauchs von Schulgeldern durchführen ließ.
Das KI-Klonen von Stimmen wurde auch schon in Wahlkämpfen eingesetzt, um politische Gegner:innen zu diffamieren. OpenAI beschloss deshalb vor Kurzem, seine Text-zu-Sprache-KI Voice Engine zurückzuhalten und erst einmal nur bestimmten Forscher:innen zur Verfügung zu stellen, da damit bereits eine 15-sekündige Aufnahme zum Klonen echter Stimmen reichen soll.