gunayaliyeva - stock.adobe.com
Die rasante Entwicklung der künstlichen Intelligenz (KI) bietet Unternehmen enorme Chancen und Wettbewerbsvorteile. Gleichzeitig muss sichergestellt werden, dass ihr Einsatz verantwortungsvoll und rechtskonform erfolgt – gerade auch, weil die regulatorische Landschaft in diesem Bereich sehr dynamisch ist und immer mehr und immer neue Vorschriften auf die Unternehmen zukommen.
Der Schlüssel zur Bewältigung dieser Herausforderungen liegt in KI-Governance, die sich mit der ethischen, rechtlichen und sozialen Kontrolle von KI-Systemen befasst. Viele der heutigen Daten- und Analyseteams verfügen jedoch nicht über die Zeit und die Ressourcen, um mit den Anforderungen der Data Governance Schritt zu halten. Diese Diskrepanz wird durch den aufkommenden Trend der generativen KI noch verstärkt, was eine eingehende Betrachtung und Implementierung von KI-Governance unumgänglich macht.
Spagat zwischen Innovation und Ethik
Der Aufstieg der generativen KI erfordert von Führungskräften einen Balanceakt zwischen Innovationsnutzung und ethischer Verantwortung. Die zentrale Herausforderung: Generative KI-Systeme, wie zum Beispiel Textgeneratoren oder Bildsynthesizer können Inhalte erzeugen, die von menschlichen Produkten kaum zu unterscheiden sind. Dies birgt Risiken, insbesondere im Hinblick auf Desinformation und Missbrauch.
Auf der einen Seite versuchen Unternehmen, die sich bietenden Chancen voll auszuschöpfen. Gleichzeitig werden die Kontrolle über die generierten Inhalte und die Vermeidung rechtlicher Probleme zu zentralen Anliegen des Managements. Auch der kürzlich verabschiedete AI Act der EU stellt Unternehmen vor neue Herausforderungen – vor allem, da die missbräuchliche Verwendung der Technologie sie in ernste Schieflagen bringen kann. Verstöße im Zusammenhang mit verbotenen KI-Systemen (wie Social Scoring Systeme oder ungezielte Erfassung von Gesichtsbildern) können Anbietern beispielsweise bis zu 35 Millionen Euro oder 7 Prozent ihres weltweiten Jahresumsatzes des Vorjahrs kosten – je nachdem, welcher Betrag höher ist.
Der Weg hin zu einem strategischen Ansatz
Um all dem gerecht zu werden, wird ein strategischer Ansatz im Bereich der KI-Governance unabdingbar. Denn auch der Einsatz von künstlicher Intelligenz wird sich in 2024 von einem reaktiven zu einem strategischen Ansatz entwickeln. Die strategische Ausrichtung ermöglicht nicht nur die Einhaltung von Regeln und Bewältigung der unmittelbaren Herausforderungen, sondern stärkt auch die Argumente für eine proaktive und gut unterstützte KI-Governance in der Zukunft.
Unternehmen, die in eine proaktive KI-Governance investieren, erfüllen mehr als nur die gesetzlichen Anforderungen, sie stärken auch das Vertrauen ihrer Kunden und Stakeholder. Die Datenqualität spielt dabei eine entscheidende Rolle, da sie die Genauigkeit und Zuverlässigkeit von KI-Systemen direkt beeinflusst. Gesetze und Governance-Strukturen legen oft bestimmte Standards für die Datenqualität fest, um Fairness, Transparenz und Rechenschaftspflicht bei KI-Anwendungen zu gewährleisten.
Hat ein Unternehmen seine Data Governance jedoch nicht im Griff, gefährdet es nicht nur die Qualität und Sicherheit seiner Daten, es läuft auch Gefahr, gegen die immer zahlreicher werdenden Datenschutzgesetze zu verstoßen. Ein Verstoß gegen diese Gesetze kann zu einem erheblichen Vertrauensbruch führen. Kunden und Stakeholder könnten das Vertrauen in das Unternehmen verlieren, was darüber hinaus eine Imageverschlechterung mit sich ziehen kann. Laut Gartner kostet mangelhafte Datenqualität Unternehmen durchschnittlich jedes Jahr 12,9 Millionen Dollar.
Die Schlüsselrolle der KI-Governance-Taskforce
Doch wie lässt sich KI-Governance nun erfolgreich im Unternehmen umsetzen? KI-Governance ist eine kollektive Anstrengung. Sie erfordert funktionsübergreifende Zusammenarbeit, um die ethischen, rechtlichen, sozialen und betrieblichen Auswirkungen von KI zu berücksichtigen. Die Einführung neuer KI-Vorschriften erhöht die Komplexität zusätzlich, da sich CDOs (Chief Data Officer) mit einer sich entwickelnden Regulierungslandschaft auseinandersetzen müssen, in der bei Nichteinhaltung erhebliche Geldstrafen drohen, die möglicherweise in die Millionen gehen.
"KI-Governance ist eine kollektive Anstrengung. Sie erfordert funktionsübergreifende Zusammenarbeit, um die ethischen, rechtlichen, sozialen und betrieblichen Auswirkungen von KI zu berücksichtigen."
Helena Schwenk, Exasol AG
Der Druck, dem CDOs durch die Kombination von Chancennutzung und Verantwortungsbewusstsein ausgesetzt sind, kann belastend sein. Eine zentrale Schlüsselrolle spielt dabei eine gut ausgestattete KI-Governance-Taskforce. Diese Taskforce sollte funktionsübergreifend agieren und verschiedene Aspekte wie Ethik, Recht und betriebliche Auswirkungen umfassen. Parallel dazu ist eine Aufsicht auf Vorstandsebene beziehungsweise eine enge Abstimmung und Zusammenarbeit unabdingbar, um die strategische Ausrichtung der KI-Governance sicherzustellen.
Die Zukunft der KI-Governance
Kollektive Anstrengung, die Einbindung von Experten aus verschiedenen Bereichen und eine klare strategische Ausrichtung sind entscheidend, um den Herausforderungen der KI-Governance erfolgreich zu begegnen. Doch auch der Weg in die datengetriebene Zukunft wird kontinuierliche Anpassungen an sich ändernde Regulierungen und Technologien erfordern. Hier wird deutlich, wie wichtig eine voll ausgestattete KI-Governance-Taskforce ist. Unternehmen, die in KI-Governance investieren, werden nicht nur in der Lage sein, den aktuellen regulatorischen Anforderungen gerecht zu werden, sondern auch agiler auf zukünftige Entwicklungen reagieren können.
Auch der richtige Partner kann dazu beitragen, das volle Potenzial von KI auszuschöpfen und gleichzeitig die ethischen, rechtlichen und sozialen Auswirkungen zu berücksichtigen. Gerade Unternehmen aus der Finanz- und Gesundheitsbranche sind teilweise gesetzlich verpflichtet, vertrauliche und persönliche Daten auf ihren eigenen Servern vorzuhalten und zu verarbeiten und sie nicht in die Cloud zu migrieren. Um dennoch die immer größer und komplexer werdenden Datenmengen in höchster Geschwindigkeit verarbeiten zu können, braucht es Lösungen, die Daten aus der Cloud ebenso zuverlässig und schnell verarbeiten können wie die, die On-Premises liegen oder in hybriden Lösungen gespeichert und verarbeitet werden.
Über die Autorin:
Helena Schwenk ist als Vizepräsidentin des Chief Data & Analytics Office bei der Exasol AG für den Bereich Analyst Relations verantwortlich. Sie verfügt über mehr als 26 Jahre Erfahrung im Bereich Datenanalyse und war 18 Jahre lang als Branchenanalystin mit den Schwerpunkten Big Data, Advanced Analytics und AI tätig. Als Data-Evangelist beschäftigt sie sich mit den Auswirkungen von Technologie auf Wirtschaft und Gesellschaft.
Die Autoren sind für den Inhalt und die Richtigkeit ihrer Beiträge selbst verantwortlich. Die dargelegten Meinungen geben die Ansichten der Autoren wieder.