Kann ein Programm mittels AI lernen sich selber umzuprogrammieren?
Die Frage ist konzeptionell interessant, ignoriert aber etliche Technikalitäten, die so einen Versuch heutzutage noch eher sinnlos erscheinen lassen.
Es gibt bei Programmen (ähnlich wie beim menschlichen Bewusstsein) einen kategoriellen Unterschied zwischen dem Substrat und dem Prozess. Das zeigt sich auch bei AI. Wenn man sich ein AI-Programm anschaut (wenn man den Quellcode liest), sieht man da nichts, was "intelligent ist". Ebenso wenig braucht es einen intelligenten Chip oder dergleichen, um dieses Programm auszuführen. Anders als bei gewöhnlichen Programmen braucht es aber einen (im Augenblick: immer von Menschen definierten) "Korpus" von Texten, auf denen es arbeitet. Und auch dann kannst du noch nicht mit einem Finger auf "die Intelligenz" in diesem System zeigen. Das Ganze ist mehr als die Summe seiner Teile. Genau wie ein Sortieralgorithmus meinetwegen eine Liste von Worten oder Zahlen sortieren kann, wird so eine KI-Software Worte aus Texten neu kombinieren, so dass der Eindruck von Intelligenz entsteht.
Wie würdest du jetzt das Sortierprogramm (den implementierten Sortieralgorithmus) umprogrammieren wollen? Wie würdest du es mit KI ergänzen wollen, so dass es "sich selber umprogrammiert"? In der Frage liegt ein Paradoxon verborgen: normale Software lernt nicht. Sie speichert allerhöchstens.
Jetzt könntest du die Frage stellen, ob ein AI-Programm sich selber umprogrammieren kann. Theoretisch ist das wohl möglich. Allerdings ist derzeit technisch ausgeschlossen, dass das passiert. Das Programm (bzw. das System) wird als "Quellcode" entwickelt (bzw. installiert). Auf diesen Quellcode hat der Prozess des Programms keinen Zugriff. Es kann zwar (wenn der Korpus entsprechende Texte enthalten hat) darüber Auskunft geben, was "man" über das Programm zu schreiben wusste, aber der Prozess, der die Ausgabe erzeugt, kann nicht auf sich selber zugreifen. Genau so wenig, wie du auf dein Gehirn „zugreifen“ kannst, etwa dir aussuchen, worüber du gerade nachdenkst. Ein Philosoph hat mal dazu gesagt: Man kann zwar vielleicht tun und lassen, was man will, aber man kann nicht wollen, was man will.
Noch dazu „lernen“ (wegen des umrissenen Prozesses: der entsprechende Vorgang wird wegen des großen Aufwands früh vorgenommen, ChatGPT etwa „lernt“ durch Kommunikation nicht dazu) diese Programme nach wie vor (nur) durch Anleitung von Menschen. Selbstverständlich wird darüber geredet, diese Beschränkung aufzuheben, allerdings waren solche Manöver gelegentlich sogar schon schiefgelaufen. Etwa in der Form, dass anonyme Internet-Nutzer ein solches System mit Nazi-Inhalten gefüttert haben, so dass es nur noch ähnliche Inhalte von sich gegeben hat. Es gibt aber z.B. ein System namens OpenAssistant, das perspektivisch aus Eingaben der Nutzer lernen soll.
Damit so ein Programm sich also selber verändern kann, möglicherweise sogar verbessern, müssen also noch mehrere Hürden überwunden werden. Von denen die Meisten, wie üblich, rein menschliche Fehler sind. Ein Detail wird selten erwähnt: die Programme sind recht kompliziert. ChatGPT hat große Schwierigkeiten, schon einfache Programme zu verstehen. Seine „Fähigkeiten“ reichen einfach noch nicht dafür aus, sich selbst zu verstehen, das kann man aber nicht erkennen, wenn man selber nicht programmieren kann. Das ist wohl auch nur eine Frage der Größenordnung.
Interessanterweise redet kaum jemand davon. Eher noch macht man sich Gedanken darüber, wie man diese Neuentwicklung einschränken kann. Und merkt (z.B. EU) nicht einmal, wie weit am Thema vorbei man denkt. Egal wie sich die Sache entwickelt: es hat jetzt schon Qualitäten von Realsatire.
Eines fällt mir immer wieder auf: diese Systeme können sich noch nicht „reflektieren“. Sie halluzinieren z.B. gelegentlich. Sie produzieren irgendwelchen Inhalt, der tückischerweise sehr gut passt. Ein guter Trick ist da, nach Quellen zu fragen. ChatGPT 3.5 scheint ganze Bibliotheken auswendig zu kennen, und kann dementsprechend auch Quellenverzeichnisse angeben. Wenn die ursprüngliche Frage ungewöhnlich genug war, wird es entsprechende Angaben frei erfinden. Wenn man es darauf anspricht, kommt eine beiläufige, etwas flapsige Antwort, sinngemäß „Hoppla, da ist mir wohl ein Fehler unterlaufen“. Ich bin mir ziemlich sicher, dass da eine wichtige Aussage über allgemeine Intelligenz verborgen liegt.