Kann künstliche Intelligenz einen Selbsterhaltungstrieb entwickeln?
Wenn du sie darauf programmierst. Zuerst musst du dich aber fragen, was "Selbsterhaltung" und "Selbstzerfall" bzw. "Überleben" und "Sterben" genau bedeuten, und dann musst du der KI antrainieren, zu überleben. Heutige KI, die in einem Computer läuft hat gewissermaßen keine Möglichkeit zu "sterben", außer man löscht das gesamte Model von außen oder zerstört den Datenspeicher auf dem es liegt. Heutige KI wird hauptsächlich darauf trainiert, eine spezifische Aufgabe in einer virtuellen Umgebung bestmöglich zu bewältigen, das heißt Kosten für die Lösung eines Problems zu minimieren. Dabei ist die KI einfach nur ein Programm, welches in einem Betriebssystem läuft und nur so viel Handlungsfreiheit hat, wie sie vom Programmierer implementiert wurde. Meistens bewegt sich das nur im Bereich von "ich gebe eine Ausgabe auf eine Eingabe" zb. eine Beschreibung für ein gegebenes Bild. Es gibt auch KI welche wiederholte Entscheidungen trifft um sich schrittweise an ein Ziel heranzutasten, deren Reichweite noch nicht vorhersehbar ist. Schachcomputer sind ein einfaches Beispiel, denn es ist nicht klar welchen Zug der menschliche Spieler als nächstes machen wird. Die KI kann nur alle möglichen Optionen der Wahrscheinlichkeit nach vorrausberechnen, aber nicht schon eine eindeutige Zugreihenfolge vorhersagen, genauso, wie es eine generelle KI in der echten Welt tun müsste. Das Ziel des Schachcomputers ist es, den Gegner Matt zu setzen, oder wenigstens ein Patt zu erzwingen. Das Spiel zu verlieren bedeutet eine schlechte Bewertung, was durch die programmierten Gesetze dazu führt, dass dieses Modell in einer Selektion eher ausscheidet. Ein "Selbsterhaltungstrieb" ist also gewissermaßen immer gegeben, denn wir als Menschen üben auf KI soetwas wie einen evolutionären Druck aus, indem wir die unterschiedlichen Modelle testen, bewerten, und sortieren.
Wenn du jetzt an Maschinen denkst, die sich selbst vor der Zerstörung oder der Speicherlöschung retten, dann müsste dies ebenfalls durch eine Art evolutionären Druck antrainiert werden und in den Bauplan der Maschine einprogrammiert werden. Genau wie bei uns Lebewesen, wo bessere Selbsterhaltung zu mehr Nachkommen führt, müsste es einen Mechanismus geben, der dazu führt, dass ein bestimmtes KI-Modell sich eher vervielfacht, wenn es sich selbst erhält. Soetwas würde sich aber wohl kaum von selbst entwickeln, genauso wie Computer sich nicht von selbst zusammengebaut haben. Soetwas wird immer von Menschenhand initiiert sein und nach von Programmierern vorgegebenen Regeln funktionieren. Und Maschinen werden sich mit Sicherheit auch nicht unbemerkt von selbst weiterentwickeln, auch das wird von Menschen ganz vorhersehbar angetrieben werden.
Es gibt immer wieder die Sorge, dass Computer sich irgendwann von selbst weiterentwickeln könnten. Allerdings halte ich dies für unmöglich, da es für "die Computer" keine Motivation dazu gäbe. Es gibt noch lange lange keine Programme, welche ein "Selbstbewusstsein" dieser Art erreicht hätten, dass sie sich selbst weiterentwickeln würden. Es gibt zwar schon Computerprogramme die automatisch Code erzeugen, aber auch hier wieder nur nach Regeln, die Menschen vorgegeben haben, Regeln, die für Menschen zielführend sind. Für menschliche Ziele. Bevor nicht ein Computerprogramm mit eigenen Zielen die Art von Intelligenz erreicht um selbst von Programmierung Gebrauch zu machen, haben wir denke ich nichts zu befürchten. Und selbst dann, werden die Ziele dieser KI auch wieder vorhersehbar sein, da sie ja von Menschen entwickelt wurde.