Wenn ein Computer ein Bewusstsein hätte - dürfte man ihn einfach abschalten?
Es gibt in der Serie "Star Trek: The Next Generation" eine Episode mit dem Titel „Wem gehört Data?“ (OT: "The Measure of a Man") in der Data, Besatzungsmitglied und Android an Bord der Enterprise, zu Forschungszwecken zerlegt werden soll.
Es sei denn, Captain Picard kann argumentieren, dass Data die gleichen Rechte wie ein Mensch zugesprochen werden müssen.
Natürlich erhebt sich die Frage: Was ist die Grundlage, auf der ein "Etwas" Rechte hat?
Was gibt einer wie auch immer gearteten Entität einen moralischen Stellenwert?
Der Philosoph Peter Singer argumentiert, dass Lebewesen, die Schmerz empfinden oder leiden können, einen Anspruch auf "moralische Wertigkeit" haben.
Demzufolge hätten auch nicht-menschliche Tiere einen moralischen Stellenwert, da sie Schmerz empfinden und leiden können.
Diesen Stellenwert allein auf Menschen zu beschränken, wäre ähnlich wie Rassismus eine Form von "Speziesismus" – wenn es so etwas denn gibt.
Ohne uns Singers Argumentation zu eigen zu machen, könnten wir uns fragen, ob sie auf einen Androiden wie Data ausgedehnt werden kann.
Denn das würde voraussetzen, dass Data entweder Schmerz empfinden oder leiden kann.
Wie man diese Frage beantwortet, hängt davon ab, wie man die Konzepte Bewusstsein und Intelligenz versteht.
Wir erleben zur Zeit, wie sich die Technologie der KI – der künstlichen Intelligenz - den von Hollywood erdachten, fiktiven Versionen immer weiter annähert.
Nun wird die Frage nach der moralischen Wertigkeit immer wichtiger.
Denn wenn KIs einen moralischen Stellenwert haben, könnte daraus doch folgen, dass sie ein Recht auf „Leben“ haben.
Das könnte bedeuten, dass man sie nicht einfach demontieren oder abschalten darf.
Und es könnte auch bedeuten, dass Menschen sie nicht bei der Verfolgung ihrer Ziele behindern sollten.
Einst baute IBM eine „Schachmaschine“ namens Deep Blue. Die wurde konstruiert und darauf trainiert, den Großmeister Gary Kasparov zu schlagen.
Aber das war ihre einige – wenn auch überragende – Fähigkeit.
Sonst konnte sie nämlich nichts.
Das nennt sich „domänenspezifische Intelligenz.
Auf der anderen Seite gibt es aber eine Art von Intelligenz, die es ermöglicht, eine Vielzahl von Dingen gut zu können und gut zu machen. Eine flexible Form der Intelligenz.
Weit gefächert.
Diese Art der Intelligenz nennen wir „domänenübergreifend“.
Und nur sie ermöglicht es Menschen, zu kochen, zu lesen, Musik zu machen, Rad zu fahren und Kinder zu erziehen. Das alles sind Skills – Fähigkeiten -, die durchaus miteinander verwandt, aber dennoch unterschiedlich sind.
KI - Künstliche Intelligenz ist eine Art von Intelligenz für Maschinen, die über domänenübergreifende Intelligenz verfügen.
Eine wirklich nachweisbare, unwiderlegbare Bestätigung, dass irgendein Computer oder eine Maschine eine solche Art von Intelligenz entwickelt hat, gibt es (zur Zeit) noch nicht.
Auch wenn künstliche Sprachmodelle wie zum Beispiel das GPT-3 von OPENAI mittlerweile menschliche Sprache und Formulierungen so gut imitieren können, dass man praktisch nicht mehr erkennen kann, ob man nicht doch mit einem echten Menschen redet.
Aber auch GPT-3 ist letztlich nur ein Programm; Seine Kreativität ist programmbasiert, programmiert.
Echte KI ist es noch nicht.
Alan Turing, einer der Pioniere der Computertechnik und der Forschung im Bereich KI, hat einen Test entwickelt. Das ist der Turing-Test.
Mit ihm lässt sich feststellen, ob und wann eine KI wirklich intelligent ist.
Kann ein Mensch, der sich mit einer „versteckten“ KI unterhält, erkennen, ob es sich um eine KI handelt - oder um einen Menschen?
Wenn er das nicht kann, dann ist die KI in rein praktischer Hinsicht intelligent.
Aber dieser Test kann nicht herausfinden, ob eine KI ein Bewusstsein haben könnte.
Wir unterscheiden zwei Teile des Bewusstseins.

I.
Da ist zunächst einmal das „phänomenale“ Bewusstsein.
Der „Was-ist-wie-für-mich-Aspekt“.
Erfahrungen.
Sie machen den sensorischen Teil des Bewusstseins aus.
Wie erlebt man seine Umwelt. Wie erlebt man ein Phänomen. Wie fühlt man Schmerz. Wie riecht man, hört man, schmeckt man.
Eine Art Empfindungsbewusstsein also. Nach innen gerichtet. Eher passiv.

II.
Und dann gibt es das „Zugriffsbewusstsein“.
Reaktiv. Es kann zielgerichtet und koordiniert auf Reize reagieren.
Es kann darüber berichten und Erfahrungen formulieren.
Es reagiert auf Reize, teilweise „automatisch“, ohne dass man sich über einen Bewegungsablauf Gedanken machen müsste.
Um den Unterschied zwischen Bewusstsein I und II besser zu verdeutlichen, wollen wir uns kurz mit "Blindsight" beschäftigen.
Blindsight – Blindsehen - bezeichnet eine verbliebene Restfunktion visueller Informationsverarbeitung in Teilen des Gesichtsfeldes, die aufgrund einer so genannten Rindenblindheit erblindet sind.
Ein „Blindsichtiger“ könnte zum Beispiel berichten, dass er auf der linken Seite seines Gesichtsfeldes nichts sehen kann.
Wenn man ihn dann aber bittet, einen Stift aus einer Reihe von Objekten in der linken Seite seines Gesichtsfeldes zu nehmen, kann er das ohne jedes Zögern und fehlerfrei tun.
Das heißt, er kann den Stift zwar nicht sehen, aber er kann ihn trotzdem in die Hand nehmen, wenn man ihn dazu auffordert.
Hier haben wir ein Beispiel für Zugriffsbewusstsein ohne phänomenales Bewusstsein.
Der Androide Data ist sich seiner Existenz durchaus bewusst.
Er kann seine „Körperfunktionen“ überwachen, sie steuern und darüber berichten.

Aber Data ist auch per Definitionem im allgemeinen Sinne intelligent.
Er beherrscht eine Menge Dinge und er beherrscht sie außerordentlich gut.
Er ist also nicht spezialisiert auf ein Gebiet, wie Deep Blue, über den wir oben ja schon gesprochen haben.
Data kann die Enterprise fliegen, er kann einen „Transporter“ bedienen und reparieren, er kann mit seinem Captain über Taktik diskutieren und sogar Musikinstrumente spielen.
Das heißt, Data hat Zugang zum Bewusstsein.
Und er würde den Turing-Test eindeutig bestehen.
Allerdings fehlt Data höchstwahrscheinlich das phänomenale Bewusstsein, das Bewusstsein I.
Er kann sich nicht wirklich am Duft von Rosen oder am Gesang von Vögeln erfreuen.
Er empfindet keinen Schmerz.
Damit verkörpert er eine extreme Version von Blindsight.
Data ist sich seiner selbst bewusst und hat ein Zugriffsbewusstsein, also II.
Aber trotz all seiner Sinne fehlt ihm das andere Bewusstsein.
Aber wenn Data keinen Schmerz empfindet, ist zumindest einer der Gründe, die Singer anführt, um einer Kreatur moralischen Status zu verleihen, nicht erfüllt.
Doch genau betrachtet könnte Data könnte die andere Bedingung erfüllen:
er könnte leiden, ohne Schmerz zu empfinden, auf einer eher intellektuellen Ebene.
Das heißt, Leiden könnte kein phänomenales Bewusstsein erfordern, wie es Schmerz im Wesentlichen tut.
In diesem Beispiel könnte Leiden so definiert sein, dass Data ein Crewmitglied retten will – aber aufgrund einer (mechanischen) Beschädigung ist er dazu nicht in der Lage.
Sein Leiden deswegen ist also „nicht-phänomenal“.
Er kann das Crewmitglied nicht retten, obwohl er es „will“.
Es besteht kein Zweifel darüber, ob Data ein Selbstbewusstsein hat.
Ebenfalls besteht kein Zweifel darüber, ob er intelligent ist.
Aber es wird nicht wirklich klar, ob er ein phänomenales Bewusstsein hat.

In der Star Trek Folge wird Data nicht demontiert, wie alle Star Trek Fans wohl wissen..
Die Menschen können sich nicht auf die Bedeutung des Bewusstseins für die moralische Wertigkeit einigen.
Sollte eine KI eine moralische Wertigkeit, einen Stellenwert, bekommen?
Data ist eine überaus „freundliche Entität“.
Er will, dass es allen gut geht. Er handelt, um das Leben und die Gesundheit aller zu schützen.
Dabei gehorcht er den Befehlen seiner Vorgesetzten – so lange sich diese damit nicht selbst in Gefahr bringen.
Gleichzeitig schützt er seine eigene Existenz.
Man könnte ihm daher durchaus eine moralischen Stellenwert zusprechen.
Weil er „gutes“ tut.
Aber vergleichen wir ihn mal mit „Skynet“.
Das ist die „böse“ KI in den "Terminator"-Filmen.
Elon Musk äußerte kürzlich die Befürchtung, dass KI gefährlicher ist als Atomwaffen,
Stephen Hawking sagte ähnliches – er befürchtete sogar, dass die KI zum Ende der Menschheit führen könnte.
Und so ganz abwegig ist das ja auch nicht.

Denn Menschen verlieren ihren Anspruch auf moralische Wertigkeit nicht, nur weil sie gegen die Interessen eines anderen Menschen handeln.
Das heißt aber, dass man auch nicht einfach sagen kann, eine KI, die gegen die Interessen der Menschheit handelt, hätte keine moralische Wertigkeit, keine moralischen Werte.
Die Menschheit wird sich dennoch immer gegen Skynet oder wie immer eine solche KI auch heißen mag, wehren wollen. Und müssen.
Skynet würde aber dadurch ebenso leiden wie Data, wenngleich auch aus vollkommen anderen Beweggründen.
Beide hätten also einen moralischen Stellenwert.

Wie wird die Menschheit die Frage nach dem moralischen Status nicht-biologischer Lebewesen beantworten?
Wir werden wir mit einer wahren KI umgehen?
Wie würde es sein, wenn wir auf eine interstellare Roboterzivilisation stoßen?
Wie würde die mit uns als biologischen Lebwewesen umgehen?
Würden wir freundlich sein? Hilfreich?
Oder würden wir nur auf Zerstörung und Vernichtung aus sein?
Aus Angst?
Quellen:
Skynet (Terminator) - Wikipedia

Alan Turing – Wikipedia

Deep Blue – Wikipedia

Peter Singer - Wikipedia