KI-Vertrauenslücke: Unternehmen begrüßen generative KI, aber Privatpersonen bleiben skeptisch
Mai 2024 von Alteryx
Die Einstellung von Unternehmen zu generativer KI im Jahr 2024 unterscheidet sich deutlich von denen der breiten Öffentlichkeit, wie die Studie „Market Research: Attitudes and Adoption of Generative AI“ von Alteryx, einem führenden Anbieter für den Einsatz von KI in Enterprise Analytics zeigt. Während mehr als drei Viertel (78 %) der Unternehmen der Meinung sind, dass generative KI einen geschäftlichen Mehrwert bringt, sind 46 Prozent der befragten Privatpersonen skeptisch, was ihren Wert angeht. 42 Prozent haben sogar Angst vor der Zukunft von generativer KI. Insgesamt 2.000 IT-Führungskräfte und 3.000 Privatpersonen weltweit beantworteten Fragen zu ihrer Wahrnehmung von generativer KI, wie sie damit umgehen und wie sie die Technologie annehmen.
Verständnis von generativer KI in Unternehmen und in der Öffentlichkeit
• 76 Prozent der Privatpersonen stehen der zunehmenden Nutzung von KI zur Erstellung von Inhalten, die sie konsumieren, positiv gegenüber. 44 Prozent fügten jedoch hinzu, dass ihre Nutzung reguliert werden müsse.
• Interessanterweise gehen die Meinungen über die Bereiche, in denen KI vor allem nicht eingesetzt werden sollte, auseinander: 47 Prozent der Allgemeinheit nennen die Politik und 39 Prozent der Befragten aus der Wirtschaft das Gesundheitswesen.
• 65 Prozent der Führungskräfte aus der Wirtschaft gaben an, dass sich KI-Halluzinationen negativ auf ihr Vertrauen in KI auswirken, während 73 Prozent der Allgemeinheit dasselbe sagen.
• 58 Prozent der Öffentlichkeit nutzen generative KI für die Suche nach Informationen, 43 Prozent der Unternehmen für die Datenanalyse.
Geschäftlicher Nutzen vs. Herausforderungen
• Im letzten Jahr haben Unternehmen im Durchschnitt drei Pilotprojekte mit generativer KI durchgeführt, und 77 Prozent gaben an, dass diese Projekte sehr oder äußerst erfolgreich verliefen.
• Die Unternehmen nannten Datenschutz und -sicherheit (41 %), generelle Sicherheitsbedenken (39 %) sowie Qualität und Zuverlässigkeit der Ergebnisse (34 %) als größte Herausforderungen bei der Skalierung von KI. Nur 38 Prozent gaben an, dass ethische Nutzungsrichtlinien vorhanden sind.
• Die richtige Aus- und Weiterbildung im Umgang mit KI ist heute von entscheidender Bedeutung. 29 Prozent gaben an, dass ein Mangel an qualifizierten Talenten sie daran hindert, generative KI im gesamten Unternehmen einzusetzen. Dennoch bieten 19 Prozent der Unternehmen, die generative KI einsetzen, keine obligatorischen Schulungen an.
• 65 Prozent der Unternehmen sind der Meinung, dass generative KI in den nächsten zwei bis drei Jahren wahrscheinlich bestehende Stellen im Unternehmen ersetzen wird, während nur 35 Prozent der Bürgerinnen und Bürger glauben, dass generative KI zu Arbeitsplatzverlusten führen wird.
Bedenken in Bezug auf die Nutzung und den Output bleiben bestehen
• Drei von fünf Unternehmen (62 %) planen, ihre Investitionen in KI-Technologien weiter zu erhöhen. Fast die Hälfte der Unternehmen gab an, dass ihre Organisation schon einmal mit Fehlinformationen durch generative KI konfrontiert wurde, und 39 Prozent berichteten, dass das erstellte Material gegen das Urheberrecht oder andere Rechte an geistigem Eigentum zu verstoßen schien.
• In ähnlicher Weise gaben 53 Prozent der Öffentlichkeit an, dass die von generativer KI gelieferten Informationen nicht korrekt waren, und 39 Prozent glaubten, dass sie veraltet waren. 42 Prozent der Öffentlichkeit zeigen sich besorgt darüber, dass Hacker KI nutzen könnten, um Straftaten zu begehen. 38 Prozent glauben, dass es zu Fake News kommen wird..
Trevor Schulze, CIO bei Alteryx, sagt: „In der Anfangsphase der Einführung von generativer KI ist es wichtig, dass Unternehmen und die breite Öffentlichkeit den Wert der KI wirklich verstehen und Ängste abbauen. Wir sehen jedoch, dass Vertrauen, ethische Bedenken, Fachkräftemangel, Angst vor Datenschutzverletzungen und algorithmische Voreingenommenheit entscheidende Hindernisse sind, die überwunden werden müssen. Um wirklich von den Vorteilen dieser bahnbrechenden Technologie zu profitieren, müssen Unternehmen ihre Datenentwicklung beschleunigen und eine bessere Governance einführen. Außerdem gilt es, Nutzer ohne Technologie-Bezug in die Lage zu versetzen, in einer sicheren und vertrauenswürdigen Umgebung auf Daten zuzugreifen und diese zu analysieren, während sie gleichzeitig Bedenken hinsichtlich des Datenschutzes und der Voreingenommenheit ausräumen. Wenn dies gelingt, hat generative KI das Potenzial, Innovationen voranzutreiben, die Entscheidungsfindung zu verbessern und sowohl am Arbeitsplatz als auch im Privatleben der Mitarbeitenden einen erheblichen Mehrwert zu schaffen."
Über die Studie
Die Umfrage wurde von Coleman Parkes von März bis April 2024 durchgeführt und richtete sich an 2.000 IT-Führungskräfte und 3.000 Privatpersonen in 11 Ländern. Zu den Befragten gehörten IT-Entscheidungsträger, die in Unternehmen in den Regionen Nord- und Südamerika, EMEA und APAC zu den Datenverantwortlichen gehören. Fast neun von zehn (87 %) dieser Befragten sind Teil der Beschaffungsinitiative für generative KI in ihrer Organisation. Sie arbeiten im Finanzdienstleistungssektor, im öffentlichen Sektor, in der Fertigung und im Technologiesektor in Unternehmen mit einem weltweiten Umsatz zwischen 50 Millionen und über 10 Milliarden US-Dollar. Das kleinste Unternehmen beschäftigt weniger als 500 Mitarbeiter, das größte mehr als 10.000. Einer von zehn Befragten arbeitet für ein Fortune-500-Unternehmen.