Kann „künstliche Intelligenz“ gefährlich sein?
Vor den Hintergrund der aktuellen Entwicklungen (ab Ende 2022) lässt sich zumindest sagen, dass der Hype um die KI nicht anders verläuft als andere Hypes um andere Technologiesprünge. Schaut man sich beispielsweise die 60er und 70er Jahre an, als Computer begannen, die Wissenschaften zu revolutionieren, findet man dort ganz ähnliche Ausrufe: Dem Computer wurde zugeschrieben, die unglaublichsten Dinge möglich zu machen. Man stürzte sich auf die Computer, als wären sie ein Allheilmittel für den noch immer als zu langsam empfundenen Fortschritt. Dabei änderten die Computer gar nichts am Fortschritt, denn sie trugen nicht zu einer höheren Kreativität in der Forschung bei, veränderten also nicht die Qualität, sondern erhöhten nur den Output der Forschung. Gut, zugegeben, sie erhöhten auch die Genauigkeit und senkten die Fehlerquote im Bereich der vermeidbaren trivialen Rechenfehler.
Dass man mit den aktuell verfügbaren Sprachmodellen a la ChatGPT passabel formuliere Fachtexte auf Knopfdruck generieren lassen kann, mag dem einen oder anderen als sensationell erscheinen. Aber wir müssen diese Entwicklung, um fair zu sein, mit anderen Technologiesprüngen vergleichen, nehmen wir beispielsweise den elektronischen Taschenrechner und das World Wide Web. Der Taschenrechner war revolutionär, weil er Schülern und Studenten ermöglichte, auch komplizierte und langwierige Berechnungen fehler- und verzögerungsfrei von einem kleinen Gerät vornehmen zu lassen, das sich in der Hosentasche transportieren ließ. Das war unerhört und zwang die Mathematikpädagogik in die unschöne Lage, nun Aufgaben entwickeln zu müssen, die sich vorrangig mit Problemlösung befassten und weniger mit der stumpfen Ausführung wiederholender Rechenschritte.
Das World Wide Web und die kostenlose Verfügbarkeit einer riesigen Zahl wissenschaftlicher Quellen führte zu einem Aufschrei beim Lehrpersonal an Schulen und Universitäten: Die Schüler und Studenten würden doch nun dazu übergehen, hemmungslos Fachtexte abzuschreiben, da es ja jetzt ein Leichtes sei, alles nur Erdenkliche in Sekundenschnelle im Netz zu finden. Es dauerte ein paar Jahre, bis ausreichend leistungsfähige Software zur Plagiatsprüfung zur Verfügung stand. Dass alternde Pädagogen sich genötigt sahen, sich kurz vor der Rente noch einen Computer zuzulegen und "dieses Internet" zu installieren, um der hemmungslos plagiierenden Schülerschaft auf die Finger klopfen zu können, gehörte sicherlich auch zu den bedauerlichen Fehlentwicklungen.
Nun also "künstliche Intelligenz".
Die ganze Medienbranche in Aufruhr. Schlesische Weber, mal wieder, mit der digitalen Mistgabel am Tor: "Arbeitsplätze in Gefahr!" (Die deutsche Angstmacherfloskel schlechthin.) Ich schreibe das so ironisch, weil ich diese Gefahr beim besten Willen nicht sehen kann. Sprachmodelle wie ChatGPT sind geschickt gemachte Software, die schnelle Netzrecherche und grammatikalisch ausgereifte Chatbots miteinander vereint. Eine prima Sache eigentlich, wenn sie denn wirklich funktionieren würde. Das tut sie aber nur so halb. So mittelmäßig. Die Antworten der Maschine sind wortreich, eloquent und inhaltlich leider zu oft falsch. Insbesondere dann, wenn man nicht die richtige Frage für die Antwort stellt, die man erwartet. Die Antwort ist nur so gut bzw. so akkurat wie die Frage, 42. Wer da Wunder erwartet, wird früher oder später eines Besseren belehrt werden.
Das soll selbstverständlich nicht heißen, dass ich keinerlei Gefahr sehe.
Zumindest eine Gefahr geht, wie ich meine, von der Tendenz aus, dass ein Mangel an Medienkompetenz Nutzer dieser Sprachmodelle dazu verführt, zu glauben, sie hätten es mit etwas Menschlichem zu tun. Dass also die Maschine von bestimmten Nutzergruppen mit einem Menschen gleichgesetzt wird, weil sie bei oberflächlicher Betrachtung zu einer menschlich anmutenden Kommunikation in der Lage ist. Dieser unbedachte und unbedarfte Umgang mit der Maschine birgt zumindest die Gefahr einer Verarmung der Kommunikation und Interaktion. Früher oder später (eher früher als später) werden nämlich Assistenten auf den Markt kommen, die diese Sprachmodelle eingebaut haben, persönliche ChatGPTs, für 20 Euro im Monat oder so. Diese Assistenten werden mit aktuellen Daten und persönlichen Daten des Nutzers, Gesundheitsdaten, Beziehungsdaten, Twitter-Posts, Musikgeschmack, Fernsehgewohnheiten etc., vollgestopft sein, so dass sie in der Lage sind, seine gesamte Korrespondenz und Kommunikation zu erledigen. Nicht nur auf konkrete Fragen hin, sondern präemptiv. In vorauseilendem Gehorsam. Sie werden die Steuererklärung ebenso erledigen können wie das Schreiben einer Bewerbung. Und das Schreiben der Kurznachricht an die Freundin, von der sich der Nutzer vielleicht trennen möchte.
Natürlich werden sie das nicht einfach so tun. Aber sie werden es vorschlagen: "Dave, ich habe bemerkt, dass du dich mit deiner Freundin häufiger streitest. Soll ich ihr eine stilvolle Kurznachricht schreiben, um ihr die Trennung mitzuteilen? Das könnte dir viel Arbeit ersparen und die Trennung wäre aus psychohygienischer Sicht wirklich empfehlenswert."