Von Helmuth Fuchs
Moneycab: Herr Ott, auf der einen Seite kann man mit künstlicher Intelligenz tolle Bilder gestalten, Texte verfassen oder das Auto steuern lassen, auf der anderen Seite sind in wichtigen Bereichen des Gesundheitswesens noch Faxgeräte im Einsatz, ist ein durchgängiges und funktionierendes Patientendossier noch in weiter Ferne. Wo stehen wir in der Schweiz bezüglich Anwendungen mit künstlicher Intelligenz, welche Projekte haben Leuchtturmcharakter?
Adrian Ott: Die Schweiz ist in Sachen künstlicher Intelligenz (KI) gut aufgestellt. Unser rechtliches System ist stabil und liberal, bietet umfassenden Schutz für geistiges Eigentum und eine hohe Investitionssicherheit für Forschung und Entwicklung. Das zieht Talente und Firmen aus der ganzen Welt in die Schweiz. Im Verhältnis zur Bevölkerungszahl belegt die Schweiz im internationalen Vergleich den dritten Platz bei der Anzahl der KI-Patente und die eidgenössischen technischen Hochschulen in Zürich und Lausanne (ETH Zürich und EPFL) zählen zu den weltbesten technischen Universitäten.
«Es ist nicht auszuschliessen, dass dieses Missbrauchspotenzial die Digitalisierung in gewissen Bereichen, z.B. bei der digitalen Identitätserkennung in besonders sensitiven Bereichen, vorübergehend verlangsamt.» Adrian Ott, Chief AI Officer EY Schweiz
Das bedeutet allerdings nicht, dass technologischer Fortschritt und KI in allen Bereichen gleichermassen ausgeprägt sind. Oft konzentrieren sich die Talente und Innovationen auf spezifische technologiegetriebene Firmen. Trotzdem sehen wir, dass viele Schweizer Firmen die neuen KI-Technologien sehr ernst nehmen und erheblich in die Transformation ihrer Geschäftsfelder investieren.
Gerade der Einsatz von KI in den Medien, vor allem den sozialen Medien, führt dazu, dass Menschen kritisch werden und das Vertrauen verlieren in die Korrektheit von Informationen. Sie haben in Ihrem Thesenpapier diese Fragen ebenfalls adressiert. Wie verhindert man, dass KI faktenwidrige und ethisch fragwürdige Inhalte selbst erstellt und diese, mangels menschlicher Kontrollinstanzen, diese auch selbst kontrolliert und absegnet?
Grosse Anbieter wie OpenAI bemühen sich bereits, ihre KI-Modelle so auszurichten, dass sie nicht für ethisch fragwürdige Zwecke genutzt werden können. Bei der Erzeugung von Bildern und Videos führen viele grössere Anbieter Wasserzeichen ein. Dies schützt jedoch nicht vor dem Missbrauch von Open-Source-Modellen, die jedem zur Verfügung stehen und qualitativ hochwertige, aber vollständig unkontrollierte Inhalte generieren können. Plattformanbieter wie X versuchen daher, KI-generierte Texte oder Bots zu identifizieren und deren Verbreitung zu unterbinden.
Trotzdem sind deep fakes eine sehr ernstzunehmende Herausforderung, welche uns trotz allen bisherigen Anstrengungen in vielen geschäftlichen wie auch gesellschaftlichen Bereichen noch lange beschäftigen wird. Es ist nicht auszuschliessen, dass dieses Missbrauchspotenzial die Digitalisierung in gewissen Bereichen, z.B. bei der digitalen Identitätserkennung in besonders sensitiven Bereichen, vorübergehend verlangsamt.
Ein positiver Aspekt ist, dass viele Menschen, die ihnen präsentierten Informationen kritischer hinterfragen. Fake News waren bereits vor der KI ein Problem. Für Medienunternehmen ist es daher eine Chance, sich durch glaubwürdige Berichterstattung und kritisches Filtern der Informationsflut als vertrauenswürdige Informationsquelle zu positionieren.
Selbstlernende Algorithmen nehmen Aufgaben wahr, die bis anhin hochbezahlten Spezialisten vorbehalten waren (Programmierung, ärztliche Diagnosen, juristische Analysen). Wie kann sichergestellt werden, dass KI nicht zum sozialen und wirtschaftlichen Risiko wird, in welchen Bereichen könnten mehr Jobs durch KI geschaffen werden?
Bevor KI das Tagesgeschäft der Firmen übernimmt, gibt es noch einiges zu tun. Zunächst muss KI korrekt in bestehende Prozesse und Systeme eingebettet werden. Ebenfalls von grosser Bedeutung ist die Qualität der Daten, auf deren Grundlage KI arbeitet. Die Navigation durch rechtliche, ethische und unternehmerische Risiken stellt uns vor ganz neue Herausforderungen. Daher kann davon ausgegangen werden, dass zunächst in diesen Bereichen neue Arbeitsplätze geschaffen werden, um die Transformation zu bewältigen.
Obwohl die Zunahme von automatisierten Prozessen wie bei der industriellen Revolution bedrohlich erscheinen mag, zeigt die Geschichte, dass technologischer Fortschritt zu einer Verschiebung von Kompetenzen führt, anstatt Arbeitsplätze vollständig zu eliminieren.
Das Beispiel der Kryptowährungen zeigt, dass ohne Regulierung die negativen Aspekte in einer digitalisierten Welt sehr schnell eskalieren. Auch Experten fordern inzwischen einen Marschhalt beim ungebremsten Einsatz von KI. Wo stehen wir bezüglich der Regulierung der KI in der Schweiz und in Europa, wo liegen die grössten Schwierigkeiten?
Die Europäische Union strebt mit der EU-KI-Verordnung (EU AI Act) an, die Handhabung von KI-Systemen zu regulieren und bestimmte hochriskante Anwendungen, wie beispielsweise das Social Scoring, zu verbieten. Die Schweiz reflektiert derzeit, inwiefern sie in diese Richtung folgen sollte und welche Auswirkungen dies auf den Innovationsstandort Schweiz hätte. Im Bereich von Banken und Versicherungen befinden wir uns bereits in einem verhältnismässig dicht regulierten Umfeld.
«Obwohl die Zunahme von automatisierten Prozessen wie bei der industriellen Revolution bedrohlich erscheinen mag, zeigt die Geschichte, dass technologischer Fortschritt zu einer Verschiebung von Kompetenzen führt, anstatt Arbeitsplätze vollständig zu eliminieren.»
Die FINMA ist dabei in regelmässigem Austausch mit nationalen und internationalen Stakeholdern. Sie verfolgte dabei bisher einen sogenannten «technologie-neutralen» Ansatz. Dies bedeutet, dass sich die Prinzipien der Regulierung unter Berücksichtigung der Wesentlichkeit und Relevanz auf alle Modelle beziehen – unabhängig von der dabei verwendeten Technologie.
Werden jedoch – wie von Kritikern befürchtet – zukünftige hochentwickelte KI-Systeme das Schadenspotential einer Atombombe haben, welche in den falschen Händen in Form von hochautomatisierten Waffensystemen erheblichen Schaden verursachen könnten, dann sind Regulierungen nur begrenzt wirksam.
Im Alltag schlagen sich die Menschen noch mehrheitlich mit Uralt-Kommunikationssystemen herum ("für Deutsch drücken Sie die Taste…»), behördliche Prozesse basieren immer noch auf physischen Unterschriften, oft vor Ort vorzunehmen wegen der persönlichen Identifikation. Wo findet die neue Welt der "Augmented Intelligence" mit intelligenten Chatbots statt, welche Bereiche sind am weitesten entwickelt?
Viele Systeme in der Schweiz sind darauf ausgerichtet, dass auch nicht technikaffine Nutzer mit ihnen zurechtkommen können. Persönliche Identifikation ist gerade in der Zeit von deep fakes aber auch aus Datenschutzgründen ein schwieriges Thema. Viele Firmen erkennen das Potential, dass gerade intelligente Chatbots Kundenfragen effizient und qualitativ hochwertig beantworten können.
«Im Banking richtet sich der generative KI-Fokus vor allem auf die Automatisierung von internen Aufgaben, die Betrugsbekämpfung und auf die Optimierung des Wissensmanagement.»
Es gibt jedoch auch viele Beispiele, wo die Kunden-Chatbots der Firmen ausgetrickst werden und Autos für 1 Dollar verkauft haben oder gerne mal die Produkte der Konkurrenz empfehlen. Grundsätzlich haben diese intelligenten Systeme aber Potential. Deshalb werden sie vor allem im Kundensupport bei Problemlösungen eingesetzt oder sie hören ein Kundengespräch mit und helfen dem menschlichen Kundenberater, indem sie wichtige Informationen für das Gespräch in Echtzeit anzeigen können. Gerade in diesem Bereich entwickelt sich die Technik rasant weiter. Und spannend wird es, wenn ich meinen Bildschirm mit der KI teilen kann und diese visuell versteht, was ich mache, mit mir spricht und gleichzeitig die Antworten für eingehende E-Mails vorbereitet.
Die Qualität der KI-Anwendungen ist direkt abhängig von der Menge und Qualität von verfügbaren Daten. Das dazu nötige Sammeln der Daten steht oft im Konflikt mit dem Recht der Menschen an den eigenen Daten und dem Schutz von persönlichen Informationen. Wie weit sorgt hier der Artificial Intelligence Act der EU für Sicherheit, welche Auswirkungen hat der EU AI Act für die Schweiz?
Grundsätzlich sollte man festhalten, dass der EU AI Act die Themen Datenschutz / -sicherheit nicht komplett neu denkt oder reguliert. Im Gegenteil, die bestehenden Gesetze sind jetzt und in Zukunft anwendbar. Der EU AI Act betont diesbezüglich die Wichtigkeit und verlangt, dass die Entwicklung und Nutzung von KI-Anwendungen unter Einhaltung der geltenden einschlägigen Datenschutz- und Datensicherheitsnormen erfolgen sollen. Zudem sollen gezielte Transparenzvorschriften auch dafür sorgen, dass die Nutzer der KI-Anwendungen über den Einsatz dieser Technologie in Kenntnis gesetzt werden und somit selbst entscheiden können, ob sie die Daten zur Verfügung stellen wollen.
Bezüglich der Auswirkungen hat der EU AI Act unter bestimmten Voraussetzungen eine direkte grenzüberschreitende Auswirkung (z.B. wenn die KI-Anwendung in Europa genutzt wird). Zudem wird sich die Schweiz – losgelöst von der Finanzplatzstrategie – vor dem Hintergrund gewisser Äquivalenz-Ansprüche der Aufsichtssysteme den globalen und insbesondere europäischen Entwicklungen nicht entziehen können.
Während viele Anwendungsbereiche von KI belustigend Charakter haben (Bild- und Textgeneratoren), können bei der Steuerung von Energienetzen, selbstfahrenden Transportfahrzeugen oder Social Scoring Systemen menschliche Existenzen bedroht sein. Wie kann man mit diesen Risiken umgehen, wenn die Komplexität durch Menschen kaum mehr zu managen ist und sich KI-Systeme als Blackboxen gestalten?
Während klassische KI-Systeme in vielen Bereichen heute schon Teil eines wiederkehrenden Audits sind, wird das Risiko-Management und das grundlegende Verständnis der verschiedenen KI-Technologien an Bedeutung gewinnen. Gerade weil generative KI oft als Blackbox angesehen wird, werden ausführliche Test-Protokolle entwickelt und risikoreiche Systeme, wie z.B. selbstfahrende Autos, unterliegen strengen regulatorischen Kontrollen.
«Viele historisch gewachsene Systeme wurden auf veralteten Programmiersprachen geschrieben und sind so komplex, dass sie heute fast nicht mehr abgelöst werden können. Gerade in diesen Fällen hilft die generative KI, welche alte Programmiersprachen lernen und den Code entsprechend entschlüsseln oder validieren kann.»
Grundsätzlich gibt es die Gefahr von Blackboxen heute schon. Viele historisch gewachsene Systeme wurden auf veralteten Programmiersprachen geschrieben und sind so komplex, dass sie heute fast nicht mehr abgelöst werden können. Gerade in diesen Fällen hilft die generative KI, welche alte Programmiersprachen lernen und den Code entsprechend entschlüsseln oder validieren kann. In sehr kritischen Bereichen wird der Mensch jedoch noch lange ein zentrales überwachendes Element sein («human in the loop»). Andererseits wird wohl in Zukunft auch verstärkt die Debatte über die Fehlertoleranz von Menschen gegenüber Maschinen geführt werden.
Der Finanzsektor investiert massiv in KI-Systeme und bewegt sich dabei zunehmend in die Cloud. Was sind hier die nächsten Entwicklungen, welche das Banking grundlegend verändern, mit welchen Auswirkungen für den Finanzplatz Schweiz?
Hier sehen wir zwei Strategien: Es ist korrekt, dass aufgrund des unbestrittenen Potenzials für Effizienz und Innovation, der zunehmenden Investitionen der grossen Cloudanbieter in lokale Infrastruktur und immer reiferer Sicherheitsarchitektur auch immer mehr Banken den Schritt in die Cloud anstreben. KI beschleunigt einerseits wohl die Umsetzung dieser Bestrebungen. Von gewissen Skaleneffekten kann mittelfristig dabei auch der gesamte Finanzplatz profitieren. Andererseits gibt es namhafte Player, welche sich bezüglich KI zumindest vorerst ganz dezidiert für eine reine «on premise»-Strategie entschieden haben. Nicht zuletzt, da der befürchtete «lock-in»-Effekt, also die Anbindung an einen bestimmten Anbieter, doch ein nicht zu unterschätzendes Thema im Markt ist.
Im Banking richtet sich der generative KI-Fokus vor allem auf die Automatisierung von internen Aufgaben, die Betrugsbekämpfung und auf die Optimierung des Wissensmanagement. Obwohl das auf den ersten Blick weniger spannend klingt, gibt es in vielen Bereichen erhebliches Optimierungspotential – gerade wenn eine KI die Daten aus verschiedenen Systemen besser miteinander verknüpfen und gesamtheitlich verstehen kann. Der nächste Schritt wäre das Augmented-Relationship-Management. In diesem Bereich werden Kundenberaterinnen und -berater von KI unterstützt, um die persönliche Beratung ihrer Klientel zu verbessern.
Bis anhin sah man KI vor allem als technologische Errungenschaft zur Produktivitätssteigerung. Inzwischen gibt es aber schon viele Chatbots im sozialen Bereich, die auch für das Gefühlsleben der Nutzer eine hohe Bedeutung haben. Eine Flucht aus den menschlichen Beziehungen zu unproblematischeren künstlichen Beziehungen. Fluch oder Segen?
Eine immer grösser werdende Community entwickelt verschiedene Ansätze eines künstlichen Lebenspartners, welcher alle Wünsche des Benutzers kennt und lebensecht den Tag hindurch Nachrichten versendet, dem Partner (AI generierte) Selfies von sich zustellt und durch die neusten Stimmtechnologien auch zuhören und sprechen kann. Der Schritt in die Virtual Reality ist dabei nicht mehr allzu weit weg. Grundsätzlich bietet das Internet jedoch schon seit Jahrzehnten die Möglichkeit, sich von der Realität abzukoppeln, und trotzdem ist das Bedürfnis vieler Menschen nach echten Kontakten nach wie vor hoch.
Wenn wir uns zudem die demografischen, gesellschaftlichen und ökonomischen Entwicklungen ansehen, kann ein «AI Companion» in bestimmten Bereichen wie z.B. der Betreuung von älteren oder einsamen Menschen durchaus eine sinnvolle Entwicklung sein.
Zum Schluss des Interviews haben Sie zwei Wünsche frei, wie sehen die aus?
Ich würde mir wünschen, dass noch mehr Schweizer Firmen die neuen Möglichkeiten der generativen KI ernst nehmen und unabhängig vom momentanen Hype oder der ersten allfälligen Enttäuschungs-Welle ein gutes Technologieverständnis entwickeln und KI-Innovation und Technologie Themen nicht aus Kostengründen ins Ausland auslagern. Entwicklungszyklen werden agiler und die Möglichkeiten werden sich in den nächsten Monaten nochmals stark verändern. Deshalb ist es wichtig, gutes lokales Know-how aufzubauen.
Als Zweites hoffe ich, dass wir als Schweiz die guten Rahmenbedingungen für Firmen aufrechterhalten und pragmatische Wege finden, um die Risiken im Griff zu haben, ohne die Innovationskraft von Schweizer Firmen zu gefährden.