Es gibt Geschichten, die kann man sich nicht ausdenken. Diese geht so: Elon Musk verklagte OpenAI, um den Konzern zu zwingen, seine zukünftigen Forschungsergebnisse offenzulegen. Denn OpenAI sei schließlich ursprünglich – unter anderem von ihm – gegründet worden, um eine Allgemeine Künstliche Intelligenz (AGI) zu entwickeln, die dem Wohl der gesamten Menschheit dienen solle. Spätestens mit GPT-4 habe OpenAI dieses Ziel bereits erreicht, argumentiert Musk. Und statt diesen technischen Fortschritt mit der Welt zu teilen, vermarktet OpenAI ihn jetzt gewinnbringend an Microsoft.
Es gibt Menschen, die halten Elon Musk für ein großes Kind, das mit unglaublich viel Geld um sich wirft, um seine Fantasien auszuleben. Andere halten ihn für einen genialen technischen Visionär. Welche der beiden Fraktionen auch recht haben mag – Fakt ist, dass Musk durchaus nicht der einzige Vertreter dieser These ist. Blaise Agüera y Arcas von Google Research und Peter Norvig von der Stanford University beispielsweise haben in einem Aufsatz für die Zeitschrift Noema 2023 ähnlich argumentiert. Sie schrieben, dass große Sprachmodelle eine Vielzahl unterschiedlicher Aufgaben lösen sowie aus dem Kontext heraus und mit wenigen Beispielen neue Fähigkeiten lernen könnten. Beides setze menschenähnliche Intelligenz voraus.
Dieser Text ist zuerst in der Ausgabe 3/2024 von MIT Technology Review erschienen. Darin beschäftigen wir uns damit, was nach ChatGPT und Co. kommt. Hier könnt ihr die TR 3/2024 bestellen.
Leider ist die Sache mit der AGI nicht ganz so einfach. Die Geschichte von der Suche nach ihr ist ähnlich verschlungen wie die der Suche nach dem Heiligen Gral. Einige Forschende glauben, menschenähnliche Intelligenz entstünde quasi von selbst, sind die Modelle nur groß genug. Andere halten das Ziel an sich für unerreichbar, hoffen aber, bei der Suche nach AGI auf wertvolle Erkenntnisse und Produkte zu stoßen. Skeptiker sagen, das Gerede über AGI sei nur ein Marketingtrick großer Plattformen. Und für andere Forschende ist die Suche nach der Maschinenintelligenz eigentlich eine Reise zurück zum Ursprung, zur Erforschung des menschlichen Intellekts. Willkommen in der wundervollen Welt der Allgemeinen Künstlichen Intelligenz.
Definition von AGI
Allein schon der Versuch, den Begriff AGI zu fassen, ist wie der Griff nach einem glitschigen Fisch. Als die KI-Forscher Shane Legg und Ben Goertzel den Begriff AGI Anfang der 2000er-Jahre populär machten, schrieben sie etwas unbestimmt von einer KI, die in der Lage sein müsse, „eine Reihe von kognitiven Aufgaben zu bewältigen, die Menschen lösen können“. Was für Menschen und was für Aufgaben sie meinten, erklärten sie nicht weiter.
Goertzel verkauft seine esoterisch angehauchten Zukunftsvisionen heute auf der Veranstaltungsplattform Singularity.net. Shane Legg hat Deepmind mitbegründet und arbeitet heute als „Chief AGI Scientist“ der Google-Tochter. Gemeinsam mit sieben seiner Kolleginnen und Kollegen veröffentlichte er im November 2023 ein Paper, das die scheinbar endlose Debatte um Definitionen und Kriterien voranbringen sollte. Darin listen Legg und sein Team neun verschiedene Definitionen des Begriffes auf.
Gleich die erste Definition in dieser Liste – die von Informatikpionier Alan Turing – bezieht sich nicht darauf, wie die AGI beschaffen ist, sondern darauf, was sie tut. Da der Mensch zu Turings Zeiten nur eine einzige Kreatur kannte, von der er glaubte, dass sie wirklich intelligent sei, muss eine dem Menschen ähnliche Künstliche Intelligenz (der Begriff AGI war damals noch nicht eingeführt) in der Lage sein, einen Menschen perfekt, ununterscheidbar zu imitieren. Besteht die Maschine diesen Test, kann sie als intelligent gelten. Turing bezeichnete den Test als „Imitation Game“, später wurde er meist nur noch „Turing-Test“ genannt.
Nachteil von Turings Konzept
Der Wissenschaftshistoriker Simon Schaffer von der University of Cambridge erklärt diesen sehr indirekten Ansatz damit, dass Turing Anfang der 1950er nur unter massiven Restriktionen veröffentlichen durfte. Denn Turing hatte nicht nur die strengen Vorschriften der Geheimhaltung zu beachten, er musste auch seine Identität als Homosexueller verbergen. „Er wusste sehr viel mehr, als er sagen durfte“, erklärt Scheffer in einem Podcast zur Geschichte der KI. „In gewisser Weise war diese Situation ganz ähnlich zu seinem Imitation Game, indem es beispielsweise nicht erlaubt ist, sich zu zeigen.“
Das ist zwar spekulativ, aber klar ist, dass Turing mit diesem Konzept langwierigen philosophischen Diskussionen aus dem Weg ging. Die Idee hat aber einen Nachteil – der Test prüft nur eine sehr spezifische Fähigkeit ab: sich sprachlich auszudrücken. Das mag uns zwar intelligent erscheinen, muss es aber überhaupt nicht sein. Eine Reihe von Forschenden formulierte daher im Laufe der Zeit immer neue Aufgaben:
- Eine AGI muss in der Lage sein, eine Reihe von kognitiven Aufgaben, die Menschen lösen, ebenfalls zu bewältigen.
- Eine AGI leistet „wirtschaftlich wertvolle Arbeit“, weil sie in der Lage ist, eine Reihe von Aufgaben mit übermenschlicher Performance zu bewältigen.
- Eine KI ist so flexibel und verfügt über genügend allgemeines Wissen, dass sie fünf Aufgaben lösen kann: Sie kann einen Film und einen Roman verstehen, in einer beliebigen Küche kochen, ein fehlerfreies Programm mit mindestens 10 000 Zeilen Code schreiben und einen in natürlicher Sprache geführten mathematischen Beweis in abstrakte mathematische Symbole übersetzen.
- Eine AGI kann komplexe, mehrstufige Prozesse in der echten Welt bearbeiten.
Der Test berücksichtigt jedoch nicht, dass die KI auf die Lösung dieser speziellen Aufgaben trainiert worden sein kann. Dass sie in der Lage ist, bestimmte Aufgaben zu bewältigen, heißt nicht zwingend, dass sie auch andere Aufgaben lösen kann. Der Philosoph John Searle hielt zudem dagegen, dass eine solche Maschine uns zwar intelligent erscheinen mag, sie aber komplexe Aufgaben auch ohne irgendeine Art von Verständnis lösen kann. Eine menschenähnliche KI müsse vielmehr absichtsvoll handeln – letztlich also über ein Bewusstsein verfügen. Es gibt aber keine Methode, mit der man feststellen kann, ob eine KI wirklich ein Bewusstsein hat – auch diese Definition führt also nicht wirklich weiter.