«Menschen reagieren auf Anreize», lautet die psychologische Grundlage der Ökonomie. Gilt das auch für Sie?
Mathias Binswanger: Sind die Anreize stark genug, können sich Menschen nur schwer gegen sie zur Wehr setzen.
Der alles dominierende Anreiz ist derzeit die Künstliche Intelligenz (KI). Wenn ich Ihr Buch richtig verstanden habe, dann stehen Sie diesem Anreiz skeptisch gegenüber. Weshalb?
Es gibt einen Hype um KI. Man verspricht sich alles Mögliche davon. Dabei werden vor allem die positiven Folgen in den Vordergrund gestellt, denn es geht ja auch um wirtschaftliche Interessen.
KI als Wundermittel gegen alles. Krankheiten können geheilt, neue Werkstoffe entdeckt werden, der Klimawandel rückgängig gemacht werden. Wie realistisch ist das?
Das ist übertrieben, aber wir müssen sehen, dass auch in der Vergangenheit immer grosse Versprechungen gemacht wurden, wenn eine neue Technologie auftauchte. Denken Sie nur, was man sich vom Internet alles versprochen hat: mehr Demokratie, keine Mauern mehr, alle Menschen haben zu allen Informationen Zugang. Viel davon hat sich nicht bewahrheitet. Das wird bei KI nicht anders sein.
Sie ordnen die KI in zwei Logiken ein, die Logik des Kapitalismus und die Logik der Bürokratie. Was meinen Sie damit?
Das ist grundsätzlich dieselbe Logik. Der Kapitalismus führt zwangsläufig dazu, dass auch die Bürokratie zunimmt, weil die Wirtschaft mit der Entwicklung immer komplexer wird.
Dabei sind es doch gerade die Unternehmer, die sich beständig lauthals über die Bürokratie beschweren und deren Abschaffung fordern?
Ja, aber sie verschwindet trotzdem nicht. Der Soziologe Max Weber hat schon vor hundert Jahren beschrieben, dass die Bürokratie integraler Bestandteil der kapitalistischen Wirtschaft ist. Der Kampf gegen die Bürokratie hat sich stets als hoffnungslos herausgestellt. Mehr noch, dieser Kampf hat paradoxerweise stets zu mehr Bürokratie geführt.
Warum sind Kapitalismus und Bürokratie siamesische Zwillinge?
Der Kapitalismus beruht einerseits auf Freiheit, auf freien Märkten, Innovationen, Fortschritt. Doch der Kapitalismus braucht auch eine andauernde Optimierung. Das ist jedoch nur unter kontrollierbaren Rahmenbedingungen möglich. Das wiederum erfordert, dass die Freiheiten wieder eingeschränkt werden. Nur so wird das System berechenbar. Diese Berechenbarkeit bzw. Stabilität wird via die Bürokratie hergestellt, und zwar einerseits vom Staat, aber auch von der Wirtschaft selbst.
Viele Unternehmer und Manager haben sich die legendäre Losung des Ökonomen Joseph Schumpeter auf die Fahnen geschrieben, die Sache mit der «schöpferischen Zerstörung», ohne die keine Innovation möglich ist. Das ist doch genau das Gegenteil von Bürokratie.
Ja, aber sie vergessen dabei die andere Seite von Schumpeter, nämlich die Frage: «Wird der Kapitalismus überleben?». Seine Antwort lautete: «Nein, ich glaube nicht.» Denn er hat auch beobachtet, wie das kapitalistische System sich selbst unterhöhlt und sich wegen der zunehmenden Bürokratisierung immer mehr in Richtung «Sozialismus» entwickelt. Durch die Entwicklung hin zu bürokratischen Grossunternehmen verliert der Kapitalismus gemäss Schumpeter seine Dynamik.
Heisst das, dass die KI die Sozialismus-These von Schumpeter nachträglich bestätigt?
Das kann man teilweise so sehen. Dazu kommt, dass der Staat und die Unternehmen sich punkto Bürokratie gegenseitig aufschaukeln. Der Staat erlässt neue Gesetze, die Unternehmen reagieren mit der Aufstockung der Compliance, der internen Kontrolle, die darüber wacht, dass die neuen Gesetze auch befolgt werden etc.
Wie hat man sich das konkret vorzustellen?
Die Unternehmen heuern neue Juristen an, die dafür sorgen, wie die neuen Gesetze eingehalten werden, aber auch wie sie umgangen werden können. Das wiederum ist ein Signal an den Staat, noch detaillierter zu regulieren.
Der legendäre Slogan der Freisinnigen der Achtzigerjahre «mehr Freiheit, weniger Staat» wird dank KI zur Makulatur?
Für die Unternehmen ist KI eine tolle Chance, die Gewinnerzielung zu perfektionieren. Aber am Schluss wird weniger Freiheit und mehr Staat dabei herauskommen.
Weshalb?
Weil Algorithmen die besseren Manager als Menschen sind. Sie können viel mehr Daten analysieren und auswerten, und das rund um die Uhr. Deshalb könnten die Algorithmen auch bessere Entscheidungen fällen. Sie können andererseits auch besser Einfluss auf das Verhalten der Konsumenten nehmen. Deshalb wird aus der Souveränität der Konsumenten nach und nach eine Abhängigkeit von Algorithmen.
Was für eine Rolle hat der Staat in diesem Spiel?
Er versucht, uns zu «normierten Gutmenschen» – wie ich das nenne – zu erziehen. Zu Menschen, die brav ihre Steuern zahlen, die Gesetze einhalten, das Gesundheitssystem mit ihrem Lebensstil nicht übermässig belasten etc. Hier treffen sich die Interessen von Wirtschaft und Staat. Beide sind daran interessiert, das Verhalten der Menschen in erwünschte Richtungen zu lenken.
Und dafür liefert die KI ganz neue Möglichkeiten?
Ja, sie kann das Verhalten der Menschen in Echtzeit erfassen und ganz neue und bessere Überwachungs- und Kontrollmöglichkeiten zur Verfügung stellen.
Werden dabei nicht der Unternehmensgeist und Schumpeters «schöpferische Zerstörung» abgewürgt und damit auch der Kapitalismus tödlich verwundet?
Die «schöpferischer Zerstörung» war schon immer das Werk einer kleinen Minderheit. Zu viel «schöpferische Zerstörung» könnte das System gar nicht verkraften, aber wirklich innovative Unternehmer sind nie besonders zahlreich. Was der Kapitalismus vor allem braucht, sind brav arbeitende und konsumierende Menschen. Diesen Idealtyp hat Max Weber zutreffend als «Fachmensch ohne Geist» beschrieben.
Wenige «zerstörerische» Unternehmer und eine Masse von «Fachmenschen ohne Geist». Als wirklich attraktiv kann man diese Zukunftsvision nicht bezeichnen.
Wir müssen erkennen, dass der Kapitalismus ein sehr ambivalentes Verhältnis zur Freiheit hat. Natürlich braucht der Kapitalismus Freiheit und freie Märkte, aber gleichzeitig unterliegt er auch einem permanenten Optimierungs-Zwang. Und das kann er nur, wenn das Verhalten der Menschen prognostizierbar und berechenbar ist, was die Freiheit wiederum einschränkt.
Das Resultat ist eine Arbeitswelt, die immer langweiliger wird, die beherrscht wird von «Fachmenschen ohne Geist», die Bull-Shit-Jobs verrichten, wie sie der Anthropologe David Gräber einst nannte.
Ein grosser Teil der Arbeitswelt war schon immer langweilig. Wir ersetzen traditionell unattraktive Jobs durch neue unattraktive Jobs. Aus dem Fliessbandarbeiter wird beispielsweise ein Compliance-Beauftragter.
Als Journalist habe ich das Privileg, in einem attraktiven Job tätig zu sein. Doch gerade diese attraktiven Jobs sind vermehrt durch die KI gefährdet.
Bisher hat die Digitalisierung primär routinemässig ablaufende, standardisierte Arbeiten automatisiert. Die KI ist selbstlernend. Deswegen kann sie zunehmend auch Arbeiten übernehmen, die uns Menschen als intelligent erscheinen.
Restaurants, Café-Bars und Läden sehen heute schon überall auf der Welt gleich aus. Bei watson haben wir nun ein KI-System, das unsere Artikel bewertet und Verbesserungs-Vorschläge macht. Wird die KI nicht zu einer zwar optimierten, aber eintönigen und unendlich langweiligen Welt führen?
Ja, es besteht die Gefahr, alles Richtung Mainstream zu optimieren und zu normieren. KI selbst ist nicht in der Lage, wirklich kreativ zu sein. Sie hat keinen «Geist». Allerdings wissen wir gar nicht so genau, was KI tatsächlich ist. Sie ist darauf angelegt, die Reaktion auf sich verändernde Umweltbedingungen zu optimieren. Die menschliche Intelligenz geht aber weiter, da geht es auch um Erkenntnis und um Bewusstsein. Die meisten Menschen sind allerdings auch nicht sehr kreativ. Deshalb ist es für die KI so leicht, Menschen zu imitieren.
Aber Menschen haben gelegentlich den Wunsch, etwas nicht zu optimieren, etwas Unvernünftiges zu tun. Ist das in einer von KI beherrschten Welt überhaupt noch möglich?
Die KI-Propheten versprechen genau das. Sie sagen, die langweiligen Jobs erledigt künftig die KI, damit der Mensch sich mehr den kreativen Tätigkeiten widmen kann. Das Problem ist bloss, dass wir Menschen KI-Anwendungen nicht durchschauen können. Wir werden abhängig von einer Black Box.
Die Partnerschaft von KI und Mensch in Ehren. Aber was, wenn die KI dereinst viel intelligenter ist als der Mensch?
Das wird sicher bald der Fall sein, wenn es um Optimierung geht. Wir Menschen können dann nicht mehr nachvollziehen, weshalb die KI bestimmte Lösungen vorschlägt. Wir sind dazu verdammt, der KI zu glauben.
Erhalten wir dank KI nicht endlich objektive, nicht von Interessen geleitete Lösungen?
Leider nein. Auch die KI vertritt Interessen, die Interessen der Big-Tech-Unternehmen beispielsweise. Diese haben dank der KI die Möglichkeit, das Verhalten ihrer Kunden noch besser zu manipulieren. Wir Konsumenten wissen nie genau, ob wir digital übers Ohr gehauen werden oder nicht.
Können Sie das an einem konkreten Beispiel erläutern?
Bei Amazon gibt es einen sogenannten Buy-Box-Algorithmus, der entscheidet, welches Produkt in den digitalen Einkaufswagen bei Amazon kommt. Dieser Algorithmus steht jedoch im Verdacht, Produkte zu favorisieren, an denen Amazon ein finanzielles Interesse hat. Das bestreitet Amazon natürlich, aber wir können das nicht überprüfen.
Warum lassen wir Menschen uns überhaupt von Algorithmen entmündigen?
Es gibt zwei entscheidende Argumente: Bequemlichkeit und Sicherheit. Damit verführt man die Menschen dazu, ihre Autonomie mehr und mehr aufzugeben. Privatheit und Freiheit haben einen relativ kleinen Stellenwert. «Ich habe ja nichts zu verbergen», lautet das Standard-Argument gegen schleichenden Autonomie-Verlust.
Sie malen jetzt aber etwas gar schwarz. Im Gesundheitswesen kann man doch auch dank KI massiv Kosten einsparen.
Aber auch kräftig manipulieren. Die Gesundheits-Apps sind auf dem Vormarsch. Sie machen es möglich zu eruieren, ob mein Blutdruck zu hoch ist oder mein Blutzucker. Ob ich zu einer Untersuchung aufgeboten werde, und wenn ich der Aufforderung nicht Folge leiste, wird meine Prämie erhöht etc. Dabei gibt es keine objektiven Kriterien, beispielsweise beim Blutdruck. Die Pharmaindustrie hat ein Interesse daran, dass der Schwellenwert für «zu hohen Blutdruck» möglichst tief angesetzt wird, weil sie dann Blutdrucksenkungsmittel öfter an den Mann oder die Frau bringen kann.
Nicht nur. Dank dieser Apps kann auch die Prävention verbessert und damit auch die Gesundheitskosten gesenkt werden.
Natürlich gibt es in konkreten Bereichen entscheidende Verbesserungen. Aber auch im Gesundheitsweisen soll das Verhalten der Menschen immer mehr überwacht und gesteuert werden. In der Schweiz gibt es seit einiger Zeit die Helsana+ App. Dort bekomme ich Prämienreduktionen, wenn ich einen gesunden Lebensstil pflege und genügend vorsorge. Wirklich relevant ist die Prämienreduktion aber nur, wenn ich bei Helsana auch eine Zusatzversicherung abschliesse. Auch hier geht es letztlich darum, das Verhalten der Konsumenten in eine erwünschte Richtung zu lenken.
Ein weiteres Versprechen der KI lautet: Die Produktivität der Wirtschaft wird deutlich erhöht werden. Was ist davon zu halten?
Schaut man nur die Produktion an, dann trifft dies zu. In einer Fabrikhalle braucht es heute praktisch keine Arbeiter mehr. Aber für die Wirtschaft als Ganzes stimmt dies nicht, weil die Bürokratie sich aufbläht. Das System wird immer komplexer und braucht immer mehr Controlling. Die Menge der Daten nimmt schneller zu als die Möglichkeit, sie zu verarbeiten. Das führt dazu, dass sich das System in den Schwanz beisst.
Nochmals ein konkretes Beispiel, bitte.
Dank KI kann ich mein Anlage-Portfolio in immer kürzeren Abständen optimieren. Das wiederum erfordert noch mehr Daten. Doch weil alle dieses Spiel mitspielen, gibt es trotz viel mehr Daten keine besseren Renditen. Aber die Komplexität hat deutlich zugenommen.
Sprechen wir von KI und Politik. Wenn die Menschen sich zunehmend von der KI entmündigen lassen, führt das nicht zwangsläufig dazu, dass das politische System immer autoritärer wird?
Genau diese Gefahr besteht. Wie schon erwähnt, ist der Staat daran interessiert, uns mithilfe von KI zu braven Gutmenschen zu erziehen. Ich vergleiche diese Entwicklung auch mit dem Untergang des weströmischen Reiches. Rom hat sich abhängig gemacht von Söldner-Armeen. Das war zunächst wirtschaftlich gesehen sehr sinnvoll. Doch mit der Zeit hatten diese Söldner so viel Macht, dass sie in Rom eingefallen sind und so den Untergang des Reiches eingeleitet haben.
Die Dystopie, dass die KI die Macht übernimmt und die Welt zerstört, gibt es mittlerweile nicht nur in der Science-Fiction-Literatur. Sie wird auch wissenschaftlich diskutiert. Zu Recht?
Wie erwähnt, können wir die KI nicht wirklich durchschauen. Wir kreieren eine riesige Black Box. Die Gefahr, dass wir die Kontrolle darüber verlieren, besteht. Deshalb plädiere ich dafür, dass wir nicht alles der KI übergeben, dass Menschen weiterhin in einem Haus leben dürfen, das nicht «smart» ist, oder ein Auto fahren können, das nicht mit Überwachungs-Sensoren ausgerüstet ist, und dass sie nicht gezwungen werden, ihre Gesundheit andauernd mit Apps kontrollieren zu lassen. Nur so bleiben Wirtschaft und Gesellschaft resilient.