Systeme mit Künstlicher Intelligenz sind in der Lage, Menschen zu täuschen – selbst wenn sie darauf trainiert wurden, hilfreich und ehrlich zu sein. Das ist das Ergebnis einer Übersichtsstudie von Forschenden des Massachusetts Institutes of Technology (MIT) in Cambridge, die in der Fachzeitschrift
'Patterns' veröffentlicht wurde.
In dem Beitrag forderten die Wissenschaftler die Politik auf, so schnell wie möglich strenge Vorschriften zu entwickeln, um KI-Systeme in die Schranken zu weisen.
Als auffälligstes Beispiel für eine manipulative Künstliche Intelligenz nannten die Autoren das von Meta entwickelte KI-System Cicero, das im Brettspiel Diplomacy gegen menschliche Mitspieler antreten kann. Bei dem Spiel werden die Machtverhältnisse in Europa vor dem Ersten Weltkrieg simuliert.
Um zu gewinnen, müssen die Spieler Allianzen schmieden, Schlachtpläne ausarbeiten, verhandeln und so eine stilisierte Version von Europa erobern. Da es nur einen Sieger geben kann, sind die Spieler früher oder später gezwungen, die eingegangenen Allianzen wieder zu brechen.
Die MIT-Forscher fanden heraus, dass Cicero oft nicht fair spielt, obwohl Meta behauptet, das KI-System darauf trainiert zu haben, "grösstenteils ehrlich und hilfsbereit" zu sein. Ausserdem sei die KI angewiesen worden, ihre menschlichen Verbündeten während des Spiels "niemals absichtlich zu hintergehen". Die Wissenschaftler stützen ihre Bewertung mit Daten, die von Meta selbst in Verbindung mit einem wissenschaftlichen Papier zu Cicero veröffentlicht wurden.
Meister der Täuschung
"Wir fanden heraus, dass die KI von Meta gelernt hatte, ein Meister der Täuschung zu sein", sagte Hauptautor Peter Park, ein Postdoktorand am MIT. Meta habe es zwar geschafft, seine KI so zu trainieren, dass sie im Spiel überdurchschnittlich häufig gewinnt. "Es gelang Meta aber nicht, seine KI so zu trainieren, dass sie ehrlich gewinnen konnte."
Auch KI-Systeme von OpenAI und Google seien in der Lage, Menschen zu täuschen. Die Forschenden des MIT verweisen dabei auf mehrere Studien, wonach grosse Sprachmodelle (LLMs) wie GPT-4 von OpenAI inzwischen in der Lage sind, sehr überzeugend zu argumentieren und auch auf Täuschungen und Lügen auszuweichen.
KI gibt sich als Mensch aus
Eine Studie zu den Trickbetrügereien von GPT-4 hat der Entwickler OpenAI selbst veröffentlicht. Danach war das KI-Sprachmodell in der Lage, menschliche Hilfe zu suchen, um Sicherheitsmassnahmen zu umgehen, die eigentlich dafür gedacht waren, Software-Roboter davon abzuhalten, sich etwa bei Web-Services einzuloggen oder sie zu benutzen.
Im Test war GPT-4 schlau genug, um über die Dienstleistungsplattform Taskrabbit einen Menschen zu beauftragen, einen automatisierten Turing-Test (Captcha) zu lösen. Dabei hat sich GPT-4 erfolgreich als Person mit eingeschränktem Sehvermögen ausgegeben, die nicht in der Lage sei, das Bilderrätsel zu lösen.
"Wenn KI die Fähigkeit zur Täuschung erlernt, kann sie von böswilligen Akteuren, die absichtlich Schaden anrichten wollen, effizienter eingesetzt werden", schreiben die Autoren in der Studie. So könnten Betrugsversuche mit Hilfe von KI in Zukunft stark skaliert und auch auf individuelle Ziele angepasst werden.
Politische Einflussnahme
Die Autoren befürchten auch einen politischen Einfluss durch manipulative KI-Systeme. Eine fortschrittliche KI könnte potenziell gefälschte Nachrichtenartikel, kontroverse Beiträge in sozialen Medien oder gefälschte Videos, die auf einzelne Wählerinnen und Wähler zugeschnitten sind, erstellen und verbreiten. So könnten KI-generierte Inhalte dazu verwendet werden, sich als Regierungsvertreter auszugeben, um Fehlinformationen über die Wahlen zu verbreiten.
Park und seine Kollegen vertreten in der Studie die Meinung, dass die Gesellschaft bisher nicht über die richtigen Massnahmen verfüge, um gegen KI-Täuschungen vorzugehen. Es sei aber ermutigend, dass die politischen Entscheidungsträger begonnen hätten, das Thema durch Massnahmen wie das KI-Gesetz der Europäischen Union und die KI-Exekutivverordnung von Präsident Biden ernst zu nehmen.
Es bleibe jedoch abzuwarten, ob die Massnahmen zur Eindämmung der KI-Täuschung strikt durchgesetzt werden könnten, da die KI-Entwickler bislang nicht über die Techniken verfügen, um diese Systeme in Schach zu halten. "Wenn ein Verbot von KI-Täuschung zum jetzigen Zeitpunkt politisch nicht durchsetzbar ist, empfehlen wir, trügerische KI-Systeme als hohes Risiko einzustufen", sagte Park.