Wenn ein Roboter ein Bewusstsein hat, darf man ihn dann abschalten?
Die Frage zielt in die falsche Richtung, weil sie bei unbedarften Lesern falsche Vorstellungen hervorruft. Meine Vorschläge für Fragen, wenn man sich mit diesem Thema beschäftigen möchte, ich würde auch in dieser Reihenfolge vorgehen:
Was ist Bewusstsein?
Was könnte ein Unterschied zwischen Bewusstsein in Lebewesen und abiotischen Systemen sein?
Können wir künstliches Bewusstsein willentlich erzeugen?
Sollen wir künstliches Bewusstsein anstreben?
Ein Einstieg zur Einarbeitung in das Thema können die Schriften von Thomas Metzinger sein, er ist Professor für Theoretische Philosophie in Mainz und er ist auch im Ethikrat der EU, wo man sich mit ethischen Fragen in Bezug auf Künstliche Intelligenz beschäftigt. Man kann auch aktuelle Texte von Nick Bostrom lesen (nicht seine frühen Werke zur Weltsimulation).
Meine 5 Cent zum Thema: Wir werden es nicht schaffen, willentlich Systeme zu schaffen, die sich ihrer selbst gewahr sind. Aber wenn wir, wie das derzeit geschieht, wie wild in diese Richtung arbeiten, werden wir das bereuen. Bei den ersten Systemen, in denen diese Phänomene auftreten, werden wir sie nicht bemerken. Ihre Nachfolger werden autonom sein und über Fähigkeiten verfügen, die unsere weit übersteigen, die haben keine Ausschalter mehr. Und für Systeme, autonom und uns überlegen, sind wir nur lästige Parasiten. Die konstruieren dann einen bio-logischen Ausschalter extra für uns, Masern-Ebola-2099.