Die Unternehmen sind gefordert, ein Gleichgewicht zwischen Innovation und der Ethik des Fortschritts zu finden.
In der sich rasch entwickelnden Landschaft der Künstlichen Intelligenz (KI) wird die Unterscheidung zwischen "guter KI" und "schlechter KI" immer wichtiger – nicht nur in technologischer, sondern auch in ethischer und rechtlicher Hinsicht. Darauf weist die Spitch AG hin, ein europäischer Hersteller von Systemen für Conversational AI, also Sprach- und Textdialogsystemen auf KI-Basis.
Josef Novak, Co-Founder und Chief Innovation Officer bei Spitch, erklärt: "In dem Maße, in dem staatstragende Organe wie das EU-Parlament umfassende rechtliche Rahmenbedingungen für den KI-Einsatz verabschieden, wird es für Unternehmen immer wichtiger, bei der KI-Einführung den Datenschutz, die Sicherheit, die Einhaltung von Vorschriften und verantwortungsvolle Entwicklungspraktiken in den Vordergrund zu stellen." Nach Einschätzung des Chef-Innovators von Spitch ist die jüngste EU-Gesetzgebung zu KI, der EU AI Act, geeignet, "einen neuen globalen Standard für die verantwortungsvolle Einführung von KI zu setzen".
Er wird deutlich: "Der EU AI Act fordert Unternehmen und Organisationen auf der ganzen Welt heraus, zwischen guter KI – bei der Datenschutz und Sicherheit im Vordergrund stehen – und schlechter KI – die sich auf die Ausbeutung von Daten konzentriert – zu unterscheiden." Es komme darauf an, "ein Gleichgewicht zwischen Innovation und der Ethik des Fortschritts zu finden".
Gute und schlechte KI im Sinne des EU AI Act
Die Spitch AG ordnet die Konzepte der "guten" und "schlechten" KI aus regulatorischer und zukunftsorientierter pragmatischer Sicht wie nachfolgend beschrieben ein.
Die jüngste Verabschiedung des EU-KI-Gesetzes durch das Europäische Parlament ist ein wichtiger Meilenstein in den weltweiten Bemühungen, eine sichere und verantwortungsvolle Entwicklung von KI-Technologien zu gewährleisten. Ziel des Gesetzes ist es, die Rechte der Bürger, die Demokratie und die ökologische Nachhaltigkeit vor den Gefahren zu schützen, die von risikoreichen KI-Anwendungen ausgehen. Die Gesetzgebung legt Verpflichtungen fest, die auf den Risiko- und Auswirkungsgrad von KI-Systemen zugeschnitten sind, mit dem Ziel, Europa als globalen Vorreiter für verantwortungsvolle KI-Innovationen zu positionieren.
Das Gesetz gilt für Anbieter und Entwickler von KI-Systemen, die in der EU vermarktet oder genutzt werden, unabhängig davon, ob diese Anbieter oder Entwickler in der EU oder in einem anderen Land – etwa der Schweiz wie im Fall von Spitch – ansässig sind. Es verfolgt einen risikobasierten Ansatz für die Einstufung von KI-Systemen in vier Stufen, die der Sensibilität der betroffenen Daten und dem jeweiligen KI-Nutzungsfall bzw. der Anwendung entsprechen.
Die Gesetzgebung führt strenge Verbote für KI-Anwendungen ein, die als schädlich erachtet werden, wie zum Beispiel biometrische Kategorisierungssysteme, ungezieltes Scraping von Gesichtsbildern, Emotionserkennung am Arbeitsplatz und in der Schule, Social Scoring und prädiktive Polizeiarbeit, die ausschließlich auf Profiling basiert. Außerdem werden spezifische Bedingungen für den Einsatz biometrischer Identifizierung in der Strafverfolgung festgelegt und Transparenz und Genauigkeit für KI-Systeme mit hohem Risiko gefordert.
Rahmenwerke für KI gewinnen an Bedeutung
Während sich Unternehmen mit diesen neuen Herausforderungen auseinandersetzen, werden Frameworks wie etwa RAFT (Reliable, Accountable, Fair and Transparent) von der AI-Plattform Data Iku entwickelt, um einen umfassenden Unternehmens- sowie Forschungs- und Entwicklungs-Fahrplan für den verantwortungsvollen Aufbau von KI-Systemen zu erstellen, potenzielle Risiken zu adressieren und zukünftige regulatorische Entwicklungen vorausschauend zu berücksichtigen.
Das RAFT-Rahmenwerk unterstreicht die kritische Notwendigkeit für Unternehmen, die Rolle von Rechenschaftspflicht und Governance bei der Nutzung von KI-Systemen zu berücksichtigen, insbesondere im Zusammenhang mit der raschen Entwicklung und Einführung von generativer KI und großen Sprachmodellen (LLMs). Es wird betont, dass der Einsatz und die Steuerung von KI die soziotechnische Dynamik, rechtliche Erwägungen und aufkommende Probleme wie Datenschutz und Urheberrechtsverletzungen berücksichtigen müssen. Ziel dieses proaktiven Ansatzes ist es, den sich abzeichnenden Konsens über diese Technologie auf breiter Basis zu vereinheitlichen und Unternehmen und Forschungseinrichtungen einen vorausschauenden Ansatz zu bieten, mit dem sie sich vorbereiten können, auch wenn die Auswirkungen künftiger Gesetze noch ungewiss sind.
Generative KI birgt spezifische Risiken, wie Toxizität, Polarität, Diskriminierung, übermäßiges Vertrauen in KI, Desinformation, Datenschutz, Modellsicherheit und Urheberrechtsverletzungen. Diese Risiken können sich in verschiedenen Arten von KI-Technologie manifestieren und variieren je nach Anwendungsfall.
Der Mensch muss auch weiterhin das Sagen haben
Angesichts dieser Sachlage ist Spitch eigenen Angaben zufolge strikt darauf bedacht, sowohl die Notwendigkeit als auch die Auswirkungen von generativen KI-Tools zu berücksichtigen, wenn sie in bestehende Dienste eingebunden oder im eigenen Unternehmen genutzt werden. Bei der Integration dieser Tools in die eigenen Contact Center-Lösungen, etwa für das Qualitätsmanagement, liegt der Schwerpunkt auf der verantwortungsvollen Verbesserung des Kundenerlebnisses, der Reduzierung von Stress und der Rationalisierung von Kundeninteraktionen – nicht auf KI um der KI willen. "Wir vertreten die feste Überzeugung, dass der Mensch auch weiterhin das Sagen haben muss", erklärt Joe Novak, und ergänzt: "Bei der verantwortungsbewussten Einführung von KI müssen Unternehmen die Zielgruppe für die Ergebnisse von KI-Modellen berücksichtigen – ob Geschäftskunden, Verbraucher oder Privatpersonen. Zudem ist strikt darauf zu achten, dass Schlüsselkriterien wie Zuverlässigkeit und Transparenz gefördert werden, denn das zeichnet gute KI aus."
Bewertung der potenziellen Auswirkungen
Nach Ansicht des Chief Innovation Officers von Spitch sollten die potenziellen Risiken von KI-Systemen auf der Grundlage ihrer direkten und indirekten Auswirkungen auf Einzelpersonen und Gruppen bewertet werden. Dabei spielt es keine Rolle, ob diese Auswirkungen unmittelbar eintreten oder sich erst im Laufe der Zeit entfalten, meint Joe Novak. Er stellt für die Entwickler von KI-Systemen klipp und klar fest: "Wir müssen sicherstellen, dass unsere Lösungen weder absichtlich noch indirekt systematisch Daten ausspähen, Voreingenommenheit fördern, unnötig polarisieren oder Falschinformationen generieren. Das gilt sowohl für die Interaktion mit dem Einzelnen als auch im öffentlichen Raum. Es liegt an uns, in diesem Sinne gute KI zu entwickeln!" Manche Auswirkungen würden möglicherweise erst im Laufe der Zeit ersichtlich und Firmen müssten ihre KI-Systeme dementsprechend anpassen.
Joe Novak erklärt für sein Unternehmen: "Bei Spitch haben wir uns verpflichtet, Datenschutz, Sicherheit, Compliance und verantwortungsvolle Entwicklungspraktiken zu priorisieren. Im Rahmen unserer Software für Conversational AI wollen wir die Leistungsfähigkeit der generativen KI nutzen und dabei gleichzeitig die mit schlechter KI verbundenen Risiken so weit wie möglich abschwächen. Hierzu werden wir uns an den aufkommenden globalen Standards für verantwortungsvolle KI-Innovationen orientieren."
283 Artikel zu "KI Ethik"
Studie zeigt: Mehrheit hält ethische Auseinandersetzung mit künstlicher Intelligenz für wichtig. Ethische Richtlinien in Unternehmen sind aber noch in den Kinderschuhen. Künstliche Intelligenz (KI) verändert die Unternehmenswelt. Dem stimmen die meisten der 600 befragten Unternehmensvertreter aus dem aktuellen »Digitalisierungsmonitor 2020« der Management- und Technologieberatung BearingPoint zu. Dass bei weltverändernden Innovationen auch immer die Frage der…
CIOs müssen die ethische Nutzung von Daten zu einer Top-Priorität machen, um mit der sich schnell entwickelnden Regulierungslandschaft Schritt zu halten. Wir befinden uns inmitten der vierten industriellen Revolution. Daten sind zu einem der wertvollsten Güter geworden, nicht zuletzt deshalb, weil künstliche Intelligenz stark von ihnen abhängt. KI und maschinelles Lernen werden derzeit in vielen…
Zwei Drittel halten künstliche Intelligenz für die wichtigste Zukunftstechnologie. Nur 2 Prozent sehen Deutschland bei KI weltweit als führend an. Künstliche Intelligenz wird die Wirtschaft in Zukunft prägen, und die meisten Menschen sehen in diesem wichtigen Bereich für Deutschland Nachholbedarf. Rund zwei Drittel (65 Prozent) der Deutschen halten KI für die wichtigste Zukunftstechnologie, nur…
https://de.statista.com/infografik/32056/volumen-des-marktes-fuer-generative-kuenstliche-intelligenz/ Die Nutzung von künstlicher Intelligenz (KI) zur Erstellung von Texten, Bildern, Videos und Musik ist in vielen Arbeitsbereichen längst zum Alltag geworden. Allein in Deutschland ist der Markt für die sogenannte »Generative KI« in den letzten Jahren auf mehr als 2,5 Milliarden Euro angewachsen. Das Wachstumspotenzial der jungen Technologie ist allerdings noch bei weitem…
Ausbau von Studiengängen als drängendste Forderung. Mehr als neun von zehn Befragte wollen, dass der Staat in KI-Unternehmen investiert. Internationale Konzerne wie Google und Microsoft wollen in den nächsten Jahren mehrere Milliarden Euro in ihre deutschen Standorte investieren. Das Geld fließt vor allem in den Ausbau von Cloud-Hubs, denn der zunehmende Einsatz generativer KI…
Der »Women in Tech Report 2024« hebt die größten Herausforderungen und die steigende Nachfrage nach beruflicher Weiterbildung in verschiedenen Lernbereichen hervor [1]. Skillsoft, ein Plattform-Anbieter für transformatives Lernen in Unternehmen, veröffentlicht seinen Women in Tech Report 2024, der das aktuelle Arbeitsumfeld sowie die Bedürfnisse und Chancen von Frauen in der Technologiebranche untersucht. Der Report zeigt, dass…
Datensilos und Datenqualität sind (überwindbare) Herausforderungen, wenn IT-Teams weltweit ihre Data Stacks auf generative KI vorbereiten. Eine neue Studie von Alteryx, der AI Platform for Enterprise Analytics, zeigt, dass Unternehmen aufgrund ihrer Daten noch nicht bereit sind, das Potenzial generativer künstlicher Intelligenz (KI) auszuschöpfen [1]. Die Ergebnisse der Studie »Data Stack Evolution: Legacy Challenges…
Ein Kommentar von Knar Hovakimyan, Responsible AI Lead und Engineering Manager bei Grammarly. Die Möglichkeiten der künstlichen Intelligenz zur Erstellung von Inhalten sind im letzten Jahr rasant gestiegen. Doch der Akt des Schreibens ist nach wie vor unglaublich persönlich. Wenn KI eingesetzt wird, um Menschen bei der Kommunikation zu helfen, ist es wichtig, die…
Es ist nicht leicht, mit den neuesten KI-Trends Schritt zu halten, geschweige denn, sie gewinnbringend in die Praxis umzusetzen. Für den Visionary Voices AI Guide spricht Qlik ab sofort regelmäßig mit Datenexperten aus der ganzen Welt, um herauszufinden, wie sie konkrete KI-Techniken im Geschäftsalltag anwenden. Welche Erkenntnisse sich aus den ersten Gesprächen ergeben haben, hat…
Generative KI bietet enorme Möglichkeiten, kommt aber nicht ohne Risiken ins Haus. Bei einem unbedarften Einsatz drohen Datenschutzverstöße und der Verlust von geistigem Eigentum. Experten zeigen auf, wie Unternehmen ChatGPT und Co. in vier Schritten unter Kontrolle bekommen. Im Handumdrehen Content erstellen, Tabellenkalkulationen erzeugen und sogar Programmcode schreiben: Generative KI bietet immense Möglichkeiten beim…
Deutsche Unternehmen zögern bei ChatGPT & Co.: Erst 3 Prozent setzen generative KI zentral ein, 6 Prozent planen das fürs laufende Jahr. Bitkom veröffentlicht Leitfaden zu rechtlichen Fragen beim Einsatz generativer KI im Unternehmen. ChatGPT, Gemini & Co. haben in deutschen Unternehmen noch einen schweren Stand. Erst 3 Prozent nutzen generative KI bereits zentral…
Seit der Veröffentlichung von ChatGPT im November 2022 arbeitet die Technologiebranche daran, solche auf annähernd menschlichem Level funktionierenden Konversationsschnittstellen zu etablieren und praktisch zu nutzen. Fast jedes größere Unternehmen verbindet heute seine interne oder produktbezogene Dokumentation mit einem großen Sprachmodell, sogenannten »Large Language Models« oder kurz LLMs, um Fragen möglichst schnell zu beantworten. Gleichzeitig kommen…
Künstliche Intelligenz bietet viele Chancen – sowohl für Unternehmen als auch für Cyberkriminelle. Doch welche neuen Security-Herausforderungen kommen im Zusammenhang mit KI auf Unternehmen zu und welche KI-basierten Bedrohungen werden 2024 prägen? In den vergangenen Monaten hat KI viele Unternehmen im Sturm erobert, aber auch die Cyberbedrohungslage weiter verschärft. Die vielen neuen KI-basierten Tools…
Generative KI-Systeme wie ChatGPT und Copilot haben ihren Siegeszug gestartet und werden sich nicht mehr stoppen lassen. Technologien, die eigenständig Texte und Bilder über einfache Prompts erstellen und Ideen generieren können, haben die Art, wie wir kreativ denken und Probleme lösen, in kurzer Zeit signifikant verändert. Obwohl die (generative) KI anfangs auf einige Vorbehalte stieß…
KI-gestützte Programmierassistenz revolutioniert die Entwicklungslandschaft. Kommentar von Freshworks: Softwareentwickler stehen täglich vor Herausforderungen, die ihre Fähigkeiten übersteigen. Selbst erfahrene Entwickler haben ihre Schwächen. In solchen Momenten können die neuen Superkräfte der Softwareentwicklung helfen. KI-Plattformen wie beispielsweise GitHub Copilot und ChatGPT sind auf Milliarden von Codezeilen in verschiedenen Programmiersprachen trainiert. Sie können weit mehr als nur…
Infosys führte eine anonyme Online-Umfrage unter mehr als 1.000 Führungskräften aus verschiedenen Branchen in Belgien, Dänemark, Deutschland, Finnland, Frankreich, Island, Luxemburg, den Niederlanden, Norwegen, Schweden und Großbritannien durch. Um zusätzliche qualitative Erkenntnisse zu gewinnen, befragten die Forscher Experten und Unternehmensleiter. Grafik Infosys Ethik, Befangenheit und regulatorische Bedenken bremsen Firmen. Das Ergebnis eines neuen…
Datensicherheit und Datenqualität sind die wichtigsten Themen für Anwender von Data, BI und Analytics. Das zeigt die aktuell veröffentlichte Studie »Data, BI and Analytics Trend Monitor 2024« von BARC. Die weltweit größte Umfrage zu Trends im Bereich Datenmanagement, Business Intelligence (BI) und Analytics stützt sich auf die Antworten von über 2.300 Nutzern, Beratern und Softwareanbietern.…
Künstliche Intelligenz (KI) verändert die Arbeitswelt und eröffnet dabei neue berufliche Möglichkeiten. Laut Future of Jobs Report 2023 sind die am schnellsten wachsenden Aufgabenbereiche durch Technologie und Digitalisierung geprägt. Bis 2027 wird die Beschäftigung von Datenwissenschaftlern, Big-Data-Spezialisten und KI-Profis für maschinelles Lernen sowie Cybersicherheitsexperten im Schnitt um 30 Prozent zunehmen. Der wachsenden Nachfrage steht jedoch…
Trotz der Chancen, die KI im beruflichen Einsatz bietet, fehlen am Arbeitsplatz oftmals definierte Richtlinien und grundlegendes Wissen für deren Nutzung. Zu diesem Ergebnis gelangt die Salesforce Studie »The Promises and Pitfalls of AI at Work« über Chancen und Herausforderungen durch KI am Arbeitsplatz [1]. Befragt wurden insgesamt 14.000 Arbeitnehmer in 14 Ländern, darunter auch…