Wien. Der EU AI Act zur KI-Regulierung wird sich positiv auf den Markt auswirken, so Conversational AI-Anbieter Spitch. Allerdings sei eine regelmäßige rechtliche Überprüfung der Tools nötig. Die will man mit Anwälten anbieten. Axel Conradi kommt neu als Pre-Sales Manager DACH.
Der EU AI Act zur Regulierung Künstlicher Intelligenz (KI) in der Europäischen Union wird sich überwiegend positiv auf den Einsatz von KI-Systemen auswirken. Diese Einschätzung vertritt die Schweizer Spitch AG, als einer der führenden Anbieter von Conversational AI auch in der EU präsent, in einer Aussendung.
"Gegebenenfalls Anpassungen vornehmen"
Dennoch empfehle Spitch Unternehmen und Behörden, die eigenen KI-Anwendungen unter den neuen Risikoaspekten der EU-Regulierung unter die Lupe zu nehmen und gegebenenfalls Anpassungen vorzunehmen. Zudem werde es nach Einschätzung des Schweizer Anbieters erforderlich sein, die KI-Anwendungen künftig "von Zeit zu Zeit" erneut auf ihre Übereinstimmung mit den gesetzlichen Anforderungen hin zu überprüfen. Denn es sei zu erwarten, dass der AI Act in Zukunft von europäischen Standardisierungsgremien weiterentwickelt und präzisiert wird. Die dadurch entstehenden Änderungen müssten beim Einsatz von KI-Systemen Berücksichtigung finden. Die Spitch AG hat auch eine Information über mögliche Auswirkungen des EU AI Act auf den Einsatz ihrer Systeme veröffentlicht.
Risikoanalyse je nach Anwendung und Einsatzgebiet
Keines der heutigen üblichen und typischen Einsatzgebiete für Sprach- und Textdialogsysteme auf KI-Basis (Conversational AI) im Kundenservice falle nach Einschätzung von Spitch per se unter die von der EU aufgestellten Risikokategorien für KI-Systeme. Das gelte auch für den Einsatz biometrischer Identifizierungsverfahren, um etwa während eines Anrufs anhand der Stimme die Identität des Gesprächspartners zu verifizieren.
Allerdings gebe es auch Anwendungen und Einsatzgebiete für Conversational AI wie Chatbots, Sprachanalysen oder Wissensdatenbanken, die unter Umständen in die Kategorien "begrenztes Risiko" oder "minimales Risiko" fallen könnten. Das gelte beispielsweise auch für biometrische Verfahren, sofern die Systeme in der Lage sind, Emotionen anhand von Sprache zu detektieren und daraus Schlussfolgerungen beispielsweise zur Kategorisierung von Anrufern abzuleiten.
EU-Rechtsberatung durch Anwälte
Die Spitch AG biete ihren Kunden Beratungsdienstleistungen an, um eine rechtzeitige und vollständige Compliance des KI-Einsatzes mit dem EU AI Act und anderen regulatorischen Anforderungen wie der GDPR (General Data Protection Regulation) bzw. der Datenschutz-Grundverordnung (DSGVO) zu gewährleisten.
Dabei helfen die Spitch-Anwälte Firmenkunden auch bei der Formulierung gesetzeskonformer Vereinbarungen mit deren Kunden, heißt es weiter. In allen Fällen erfolge die Beratung anhand der spezifischen Gesetzgebung jedes Landes, in dem die KI-Systeme zum Einsatz gelangen.
Anpassung innerhalb von zwölf bis 36 Monaten
Für die meisten Einsatzgebiete von Conversational AI müssen die zusätzlichen Anforderungen nach Inkrafttreten des AI Act im Mai 2024 innerhalb von zwölf bis 36 Monaten erfüllt werden. Spitch versichere, dafür Sorge zu tragen, dass in dieser Frist alle Anforderungen an die Anbieter der KI-Systeme von der eigenen Produktpalette erfüllt werden.
Insbesondere werde man sicherstellen, dass alle Lösungen, die Stimmbiometrie in Echtzeit, Stimmungsanalyse und Emotionserkennung verwenden, die sich auf GPT-4 oder andere KI-Modelle zur Zusammenfassung und Kategorisierung beziehen, sowie die im EU AI Act als "mit begrenztem Risiko" eingestuften Systeme, wie virtuelle Assistenten (KI-Chatbots), innerhalb der vorgeschriebenen Fristen vollständig konform sein werden.
Neuer Manager in DACH
Mit Axel Conradi hat Spitch nun außerdem einen neuen Pre-Sales Manager DACH ernannt. Conradi ist in Deutschland ansässig und verfüge über mehr als 25 Jahre Erfahrung in der Bereitstellung von technischen Pre-Sales-Engagements, Architektur-, Design- und Beratungsunterstützung für Kunden in unterschiedlichen Branchen. Vor seinem Wechsel zu Spitch war er laut den Angaben Technical Manager bei der Verint Systems GmbH. Er berichtet an Stephan Fehlmann, Vice President DACH.