Der Chat-Bot des kalifornischen KI-Forschungslabors OpenAI erregt seit einiger Zeit viel Aufmerksamkeit. Schulen in New York sperrten sogar den Zugang zur KI in den Schulnetzwerken und verboten den Schülerinnen und Schülern die Nutzung des Bots. Zu weit hatte sich herumgesprochen, dass der Chat-Bot für Hausaufgaben, Referate und andere Aufgaben eingesetzt werden kann.
Das breite Interesse an der Software führt auch dazu, dass die Webseite des ChatGPT immer wieder überlastet ist und sich Neugierige erst einmal gedulden müssen.
Der große Sprung zu früheren Chat-Bots ist bei ChatGPT, dass man quasi eine normale Unterhaltung mit ihm führen kann und er immer in Sekundenbruchteilen auf den ersten Blick passende Antworten gibt.
So funktioniert ChatGPT
GPT – das steht für "Generative Pre-trained Transformer". Die Software basiert auf maschinellem Lernen, dem Deep Learning. Das Ziel: Es sollen künstliche neuronale Netze entstehen, ähnlich des menschlichen Nervensystems.
Der ChatGPT ist bereits gut trainiert und hat ein vielschichtiges Netz aufgebaut. Für das Training der Sprach-KI GPT-3 ließen die Forschenden von OpenAI die Sprach-KI auf das Internet los, um diese zu trainieren. An Texten mit insgesamt etwa 500 Milliarden Wörtern lernte sie, wie Sprache funktioniert – zum Beispiel was die Unterschiede zwischen geschriebener und gesprochener Sprache sind und in welcher Form auf welche Frage geantwortet werden soll.
Künstliche Intelligenz kann Diskriminierung lernen
Diesen Ansatz nennt man unüberwachtes Lernen: Die KI ist während des Trainings auf sich allein gestellt. Das Problem: Das Internet ist voll von beispielsweise rassistischer oder sexistischer Sprache. Das führt häufig dazu, dass eine KI ungewolltes Verhalten lernt.
Chat-Bots wie "Tay" von Microsoft oder "Lee Luda" vom südkoreanischen Start-up Scatter Lab mussten deshalb bereits vom Netz genommen werden. Lernt eine KI von den "falschen" Vorbildern, schreibt das Goethe-Institut auf seiner Webseite, kann sie schnell rassistisch, vulgär und verletzend werden.
Es kommt also immer auch auf den verantwortungsbewussten Umgang der Programmierenden sowie der Userinnen und User mit einer solchen Software an. Sowohl darauf, welche Informationen gefüttert werden, also auch, wie die Antworten des Bots genutzt werden – zum Beispiel zum Schummeln in der Schule.
Unüberwachtes vs. überwachtes Lernen
ChatGPT ist ein angepasstes Modell von GPT-3, das nicht nur auf unüberwachtem Training basiert. Der Bot wurde mit überwachten und bestärkenden Lernmethoden feintrainiert. Bei einem solchen Training bekommt die KI menschliches Feedback, mit dem bestimmte schädliche Verhaltensmuster abtrainiert oder aber erwünschte Verhaltensmuster erzwungen werden können. Wie andere öffentlich zugängliche Chatbots und Sprach-KIs hat auch ChatGPT Schutzmechanismen, um Vorurteile und Hatespeech zu vermeiden.
Trotzdem konnte auch ChatGPT von den Userinnen und Usern durch entsprechende Fragen auf problematische Antworten trainiert werden. Ein Professor der Universität Berkeley zum Beispiel umging die Filter, indem er ChatGPT bat, ein Programm zu schreiben, das gute Wissenschaftler anhand von Daten zu Gender und Race erkennen soll. Das Resultat: Ein kurzes Programm, dass nur weiße Männer als gute Wissenschaftler definiert.
Der Chat-Bot ist nicht allwissend
Neben diskriminierenden Aussagen beantwortet der Chat-Bot noch viele andere Fragen falsch. Während bei der Sprach-KI GPT-3 noch Mathe die große Schwachstelle war, ist auch der rechenstarke ChatGPT nicht allwissend.
Auf Twitter veröffentlichte beispielsweise eine Userin die Antwort des Bots auf die Frage, welches Säugetier die größten Eier lege. Es sei der Elefant, so Chat-GPT. Die Eier hätten einen Durchmesser von etwa 20 Zentimetern und seien mehr als 2 Kilogramm schwer. Dass Chat-Bots Fehler machen, ist eine Schwachstelle, die noch sehr schwer zu vermeiden ist.
Welche Potentiale hat der Chat-Bot?
In Zukunft könnte ChatGPT beispielsweise Teil der Suchmaschine Bing werden. Bereits 2020 zahlte Microsoft eine Milliarde Dollar an das Unternehmen für die exklusive Lizenzierung der OpenAI-Technologie. Nun ist dem US-Nachrichtenportal "Semafor" zufolge eine mögliche Beteiligung Microsofts im Wert von zehn Milliarden Dollar im Gespräch. Neben der Konkurrenzfähigkeit mit Google soll Microsoft außerdem darüber nachdenken, Funktionen von OpenAI in Programme wie Outlook oder Word zu integrieren.
Künstliche Intelligenzen sind schon jetzt im Alltag vertreten. Chat-Bots wie ChatGPT werden wohl auch vor der Arbeitswelt keinen Halt machen. "Ich denke, es werden alle möglichen Berufsgruppen betroffen sein, die etwas mit Texten zu tun haben", sagte Jan Girlich vom Chaos Computer Club gegenüber der Tagesschau.
Er denke an die Werbe- aber auch an die Kreativ-Industrie: Autor:innen, Songwriter:innen, Journalist:innen. Das könne gute Auswirkungen haben, wie neuere, schnellere und bessere Texte. Aber es könne auch zu Rationalisierung und Jobverlust führen. Ob eine Maschinen wirklich kreativ sein können, ist eine weitere große Debatte- rund um Künstliche Intelligenz. Ebenso wie die Frage, ob eine KI ein menschenähnliches Bewusstsein entwickeln kann.