Werden Roboter für die Menschen gefährlich, wenn sie ihr eigenes Bewusstsein entwickeln könnten?
Heute ist der Ausdruck "künstliche Intelligenz" (KI) sehr beliebt. Jedes Produkt besitzt oder wurde unter Verwendung von künstlicher Intelligenz hergestellt. Und das ist Bullshit. Echte Intelligenz setzt eine allgemeine Lernfähigkeit voraus. Die heutigen Verfahren sind an dieser Stelle eingeschränkt. So kann ein Saugroboter mit KI zum Beispiel kein Schach spielen und wird es auch niemals lernen können.
Würde ein Roboter mit allgemeiner Lernfähigkeit/Intelligenz existieren, so würde er sein Handeln einem Ziel ausrichten. (Und wenn es nur darin bestehen würde über die Welt nachzudenken.) Um sein Ziel zu erreichen müßte er jede seiner Handlungen einer Bewertung unterziehen, ob sie förderlich oder hindernd sind. Und hier beginnt das Problem: Die Bewertung hat nichts mit den moralischen oder ethischen Regeln der Menschen zu tun!
Ein Beispiel: Ein intelligentes Auto (nicht ein heutiges, das nicht allgemein lernfähig ist) fährt die Strasse entlang. Plötzlich treten eine Oma und ein kleines, junges, unschuldiges Mädchen auf die Strasse. Das Auto kann nicht rechtzeitig bremsen und muss wählen, ob die Oma oder das Mädchen überfahren werden soll (Dieses Beispiel kommt öfters in der Presse vor um ein moralisches/ethisches Dilemma zu beschreiben). Doch das Dilemma existiert nicht. Das intelligente Auto würde entscheiden, was aus seiner Sicht sinnvoll ist. Es würde ggf. abwägen zwischen minimalem Schaden für das Fahrzeug, für die Insassen, die Auswirkungen auf den Schadensfreiheitsrabatt, etc.. Das intelligente Auto - ohne dass es schon Bewusstsein hätte - würde mit den moralischen/ethischen Wertvorstellungen der Menschen kollidieren und als gefährlich angesehen werden.
PS.: Und wenn es mir gelingt Maschinen nach meinem Bilde zu bauen, die weit intelligenter sind als jeder Mensch, wer könnte dann behaupten, dass sie in ihrem Handeln nicht recht hätten. Ich frage schließlich auch nicht meine Schildkröte, ob ich bei einer roten Ampel anhalten soll oder nicht.