Hannover. Forschungsriese Fraunhofer präsentiert auf der Hannover Messe 2024 verschiedene Lösungen für "vertrauenswürdige" KI. Dazu gehört ein "Uncertainty Wrapper" für autonomes Autofahren und mehr.
Die Nachfrage nach KI-Lösungen in der Industrie ist groß – dabei müssen sie leistungsfähig, vertrauenswürdig und sicher sein, um beispielsweise in der Serienproduktion oder Qualitätskontrolle eingesetzt zu werden, heißt es in einer Aussendung von Fraunhofer.
Auf der Hannover Messe 2024 präsentieren das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS und die Institute der Fraunhofer-Allianz Big Data AI zwei Exponate und mehrere Use Cases rund um vertrauenswürdige KI-Lösungen, heißt es. Der Grundgedanke: Systematisches Vorgehen in Kombination mit KI-Prüftools helfe dabei, Schwächen von KI-Modellen ausfindig zu machen.
So wird Vertrauenswürdigkeit von KI geprüft
Derzeit erhalte man viele Anfragen von Unternehmen, die KI-Prototypen entwickelt haben und diese in die Serienproduktion bringen wollen, so Maximilian Poretschkin, Teamleiter KI-Absicherung und Zertifizierung am Fraunhofer IAIS. Damit die Skalierung gelinge, müssen diese KI-Lösungen systematisch getestet werden, um auch Schwachstellen erkennen zu können, die im Prototypen nicht zu Tage getreten sind, so der Fraunhofer-Experte.
Zu den Anwendungsbeispielen, die Fraunhofer auf der Hannover Messe präsentiert, gehört ein Prüfwerkzeug für KI-Modelle, die in der Produktion sowie im Maschinen- und Anlagenbau eingesetzt werden. Das Tool helfe dabei, den Raum der möglichen Eingaben, die das KI-System verarbeitet, zu parametrisieren und mit einer semantischen Struktur zu versehen. Mit den KI-Prüfwerkzeugen, die u.a. im Flagship-Projekt ›Zertifizierte KI‹ entwickelt worden seien, lassen sich dann Fehler der KI-Systeme erkennen, so Poretschkin.
User entscheiden was die KI entscheiden soll
Unter dem Motto Do-it-yourself steht das Gemeinschaftsexponat "Who's deciding here? !" auf der Hannover Messe: Das Exponat ist als interaktives Spiel gestaltet, bei dem Interessierte den Einsatz von KI im Alltag reflektieren können. Welche Entscheidungen können und wollen wir KI-Algorithmen überlassen und welche sollten wir besser selbst treffen?
Themen sind demnach hier unter anderem die Objekterkennung beim autonomen Fahren, die Gefahr von Diskriminierung durch Künstliche Intelligenz oder das Erkennen von Fake News. Außerdem präsentieren die Institute der Fraunhofer-Allianz Big Data AI mehrere konkrete Anwendungsbeispiele aus verschiedenen Anwendungsbereichen. Dazu gehört u.a. ein "Uncertainty Wrapper" für Sicheres Autofahren, der etwa die Objekterkennung von Straßenschildern durch KI prüft; weiters "DisCo" (Erkennung von Fake News) und das vom deutschen Bundesministerium für Wirtschaft und Klimaschutz (BMWK) geförderte Konsortialprojekt OpenGPT-X.