de de de de de de fr de en de de en de de en de de de de de de de de sv de en de de de de de de id de en de it de it nl de de es de fr de de de de de en de fr et en de de de de de de de de de de de de de nl en en en en de de de en de sv de de de de de de de de de de de de de nl de de cs de de nl de de de de de de de de de en en de en sv de en de en en en de en de de de de de de de en en de de de en de de de de de en de de de de it en de de es de de de de en de de de de de de de de de de de de de en de de de de de de de de de de de de en en de de de ca de de de de ca de it de de de de de de de
Apple und Google wollen die Mitschnitte ihrer Sprachassistenten vorerst nicht mehr von Menschen auswerten lassen. Bei Marktführer Amazon ist das nun optional.
Wozu künstliche Intelligenz (KI) im schlimmsten Falle in der Lage ist, lässt sich dieser Tage auf der Kinoleinwand beobachten. In „Child’s Play“ legt sich eine Familie nichtsahnend eine interaktive Puppe als Spielkameraden für den Sohnemann zu. Doch weil solch eine Puppe heutzutage natürlich voller künstlicher Intelligenz ist, zeichnet sie jedes Gespräch auf, filmt alle Begegnungen und zieht ihre ganz eigenen Schlüsse daraus. Dass die KI im eigenen Zuhause in diesem Fall in einem Blutbad endet, ist zumindest in diesem Fall klar, wenn man weiß, dass es sich bei dem Film um ein Remake des Horror-Klassikers „Chucky die Mörderpuppe“ handelt.
Auch in der realen Welt hat künstliche Intelligenz längst Einzug in die Wohnzimmer erhalten. Etwa in Form der Sprachassistenzen von Amazon („Alexa“), Apple („Hey Siri“) oder Google („Ok Google“). Der digitale Gesprächspartner erleichtert zwar den Alltag, doch Datenschützer sehen seinen Einsatz kritisch. Erst vor einigen Wochen war bekannt geworden, dass Amazon tausende Mitarbeiter beschäftigt, die Aufnahmen aus den Haushalten der Nutzer anhören, sie transkribieren und anschließend wieder dem Maschinenlernsystem zuführen.
Auf diesem Wege soll die Spracherkennung verbessert werden. Bei anderen Herstellern läuft es ähnlich. Laut einem Bericht des „Guardian“ soll etwa Apples Siri auch Gespräche mit medizinischen oder geschäftlichen Inhalten, mögliche kriminelle Aktivitäten oder auch Nutzer beim Sex belauscht haben. Aus Versehen, wie es hieß. Das Gerät habe fälschlicherweise die Aktivierungsworte „Hey Siri“ verstanden.
Datenschützer starten Verfahren gegen Google
Apple und Google haben nun angekündigt, die Auswertung der Daten zu überdenken. Apple will künftig ausdrücklich die Erlaubnis der Kunden dazu einholen, dass Menschen ihre Aufnahmen abhören dürfen. Die Funktion solle in einem späteren Software-Update umgesetzt werden, sagte der iPhone-Konzern dem US-Blog „TechCrunch“. Bis dahin werde die Praxis weltweit ausgesetzt.
Auch Google stoppt in Europa die Praxis, Aufnahmen seiner vernetzten Lautsprecher von Menschen auswerten zu lassen. Allerdings nicht ganz freiwillig. Der Hamburger Datenschutzbeauftragte Johannes Caspar leitete ein Verwaltungsverfahren gegen den Konzern ein, um diese Praxis zu beenden. Das Verfahren kann den Prozess allerdings nur drei Monate unterbrechen, da die irische Datenschutzbehörde für Google in Europa zuständig ist.
„Wir werden Ende August mit Google sprechen und dann über das weitere Vorgehen entscheiden“, sagte Caspar dem Tagesspiegel dazu. „Sollten bis dahin dennoch keine zulässigen Standards umgesetzt sein, ist der Erlass einer Anordnung weiterhin möglich, soweit bis dann noch keine behördlichen Maßnahmen durch uns erlassen wurden.“ Aus seiner Sicht braucht es für den gesamten Bereich des Einsatzes von Sprachassistenzsystemen einheitliche Industriestandards für den Datenschutz.
Johannes Caspar, der Hamburgische Beauftragte für Datenschutz, hat ein Verwaltungsverfahren gegen Google gestartet.
Das umfasse „ein höchstmögliches Maß an Transparenz für die Betroffenen“ und „eine informierte Einwilligung“. „Über die Fehlaktivierungen als Folge des Einsatzes eines Sprachassistenzsystems sind Betroffene transparent aufzuklären, durch Fehlaktivierung erhobene Daten sind zu löschen“, fordert Caspar. „Außerdem muss grundsätzlich auch über den Schutz von dritten Personen im Funktionsbereich von Sprachassistenzsystemen nachgedacht werden.“
Auch Amazon reagiert – aber nicht auf Nachfragen
Der Digitalexperte der Grünen, Konstantin von Notz, begrüßte den Schritt von Apple und Google, forderte aber gesetzliche Regelungen. „Wir fordern die Bundesregierung noch einmal mit Nachdruck auf, gegenüber den Unternehmen unmissverständlich klarzustellen, dass man es nicht tolerieren wird, wenn Menschen im Kernbereich der privaten Lebensführung derart ausgeforscht werden, um die eigenen Systeme zu verbessern“, so von Notz. Die Regierung müsse die Aufsichtsbehörden dabei unterstützen, den Firmen Grenzen aufzuzeigen.
Der Marktführer unter den Sprachassistenten ist allerdings Amazon. Die Spracherkennungssoftware des Unternehmens gilt als führend, auch bei den Verkaufszahlen der sogenannten Smart Speaker liegt Amazons Echo vor dem HomePod von Apple oder Google Home. Aufgrund dieser Verbreitung wäre es durchaus von Interesse, zu erfahren, wie Jeff Bezos’ Konzern auf die jüngsten Schritte von Apple und Google reagiert. Auf mehrmalige Nachfrage wollte der Konzern bis zum Freitagabend weder erklären, ob Mitschnitte weiterhin von Menschen abgehört werden oder ob andernfalls sonstige Maßnahmen geplant sind, datenschutzrechtliche Bedenken auszuräumen.
Wie die US-Plattform Bloomberg am Samstag berichtete, hat Amazon aber auf die Kritik reagiert: Alexa-Nutzer hätten nun auch die Möglichkeit, einer Auswertung von Aufnahmen durch Menschen im Einstellungsmenü der zugehörigen App zu widersprechen.
In der Politik verfolgt man die Schritte von Amazon jedenfalls genau. Weil deren Deutschland-Sitz in München beheimatet ist, wäre das Bayerische Landesamt für Datenschutzaufsicht am Zug, wenn auch gegen Alexa ein Verwaltungsverfahren nach Hamburger Vorbild gestartet werden soll. Man werde den Sachverhalt in den kommenden Tagen prüfen und dann über ein mögliches Verfahren entscheiden, teilt die Behörde auf Anfrage mit.
Smart Speaker immer beliebter
Ungeachtet aller Bedenken erfreuen sich die Sprachassistenten allerdings wachsender Beliebtheit. Laut einer Umfrage des Digitalverbands Bitkom nutzte im vergangenen Jahr jeder achte Bundesbürger ab 18 Jahren einen intelligenten Lautsprecher. Das entspricht rund 8,7 Millionen Menschen in Deutschland. Analysten prognostizieren, dass die Zahl der Smart Speaker bis zum Ende dieses Jahres weltweit um 82 Prozent steigen wird.
Doch Sprachassistenten sind eben nicht nur als eigenes Gadget am Markt, sondern häufig in andere Produkte integriert. Der Google Assistant etwa ist auf allen Android-Smartphones und -Tablets ab Version 5.0 verfügbar, Siri von Apple ist auf iPhones, iPads und MacBooks installiert. So erklärt sich auch, dass weitaus mehr Deutsche, nämlich 32 Prozent, digitale Sprachassistenten nutzen, wie eine Umfrage der Postbank im Juni ergab.
Experten warnen vor Sprachassistenten Diese Risiken birgt Alexa für Kinder
Doch tatsächlich stehen die Konzerne vor einem Problem, wenn sie ihre KIs nicht mehr mit Live-Aufnahmen trainieren können. Nabil Alsabah, Bereichsleiter Künstliche Intelligenz bei Bitkom, kennt allerdings Alternativen. „Man kann das Feedback des Nutzers einholen und ausgewertet wird: Hat das System meine Frage verstanden und war die Reaktion zufriedenstellend?“, sagt die Expertin vor und schlägt noch eine Möglichkeit vor. „Die Spracherkennung lässt sich auch trainieren, indem der KI Tonaufnahmen aus Filmen vorgespielt wird.“ Vielleicht am besten ja aus „Child’s Play“.