- Amazon Fresh: Kassenlose Shops
- Facebook: Virtueller Assistent
- Google: Gemini
- Gmail: Mitarbeiter:innen lesen eure Mails
- Presto Voice: Automatische Drive-ins
- Scale AI: Training künstlicher Intelligenz
- X.ai: Virtueller Assistent
- Expensify: Bestätigung für Belege
- Theranos: Bluttests
- Bonus: Amazons Mechanical Turk
Der Begriff "künstliche Intelligenz" ist nicht erst in den vergangenen Jahren zum Hype-Wort geworden. Schon weit vor ChatGPT und Co. haben Unternehmen behauptet, dass sie virtuelle Assistenten bieten, Bestellungen automatisieren oder sogar Bluttests automatisch analysieren könnten.
Doch in vielen Fällen stecken tatsächlich Menschen hinter den Automatisierungen, KI und futuristischen Programmen. Glücklicherweise dauert es oft nicht lange, bis solche Behauptungen entlarvt werden – wie die folgenden Beispiele zeigen.
Amazon Fresh: Kassenlose Shops
Das jüngste Beispiel für eine solche Fälschung ist Amazon Fresh. In den Lebensmittelläden sollten Kund:innen ganz ohne Kassen einkaufen können. Am Eingang scannt ihr dafür einfach einen QR-Code, um euch zu verifizieren.
Über Kameras und Automationen im Hintergrund sollte das System erkennen, welche Produkte ihr aus den Regalen nehmt oder sogar wieder zurückstellt. Am Ende musstet ihr nur noch den Laden mit den Waren verlassen, damit der fällige Betrag von eurem hinterlegten Zahlungsmittel abgezogen wird. "Just Walk Out" hieß diese Funktion und war in rund 20 von Amazons Fresh-Shops verfügbar.
Wie Gizmondo berichtete, ist das System im Hintergrund aber bei Weitem nicht so fähig, wie Amazon behauptet. Tatsächlich sitzen etwa 1.000 Menschen in Indien vor Bildschirmen, schauen sich die Kamerabilder an und packen für euch den virtuellen Einkaufswagen. In einem Bericht von The Information heißt es, dass rund 70 Prozent aller Einkäufe so ablaufen. Amazon hat angekündigt, "Just Walk Out" vorerst einzustellen.
Facebook: Virtueller Assistent
2015 hat Facebook einen virtuellen Assistenten namens "M" getestet. Dieser war vermeintlich in der Lage, über Eingaben im Messenger diverse Aufgaben für euch zu erledigen: Kinotickets buchen oder Essen bestellen beispielsweise. Allerdings steckte dahinter nicht zu 100 Prozent die KI.
Tatsächlich war "M" zu diesem Zeitpunkt nur in einem sehr frühen Entwicklungsstadium. Die meisten Aufgaben haben andere Menschen für euch übernommen. Wie Vox berichtete, hatte Facebook den virtuellen Assistenten zunächst nur an eine kleine Nutzergruppe herausgegeben. Der Grund: Das Unternehmen wollte nicht so viele menschliche, persönliche Assistenten bezahlen, um eine große Anzahl an Nutzer:innen zu unterstützen.
Insgesamt soll die KI nur 30 Prozent aller Anfragen beantwortet haben. Der Rest wurde von Menschen übernommen. Der Dienst wurde 2018 endgültig eingestellt.
Google: Gemini
Im Dezember 2023 hat Google ein Video zur KI Gemini veröffentlicht, in dem zahlreiche Funktionen gezeigt wurden. Die KI ist laut dem Video in der Lage, in kürzester Zeit Spiele mit euch zu spielen, visuelle Rätsel zu lösen und etwa Sounds passend zu gezeigten Bildern abzuspielen.
Wie Google später gegenüber Bloomberg zugab, hat das Video in der gezeigten Form nie stattgefunden. Es wurde stark verkürzt und die Person im Video hat auch nie mit der KI gesprochen. Stattdessen wurde Gemini mit Standbildern aus dem Video und Texteingaben gefüttert, um passende Aussagen zu treffen.
Viele hatten angenommen, dass Gemini in Echtzeit mit Nutzer:innen interagieren kann – zumindest wird das durch das Video suggeriert.
Gmail: Mitarbeiter:innen lesen eure Mails
Einen doppelten Fauxpas mit ungewollter und menschlicher Automation hat sich Google mit Gmail geleistet. Der Mail-Dienst geriet in die Kritik, als bekannt wurde, dass Mails von Nutzer:innen gescannt werden. Das passierte, um personalisierte Werbung an die Gmail-Nutzer:innen ausspielen zu können. Nach dem Gegenwind versprach Google, das Scannen einzustellen.
Allerdings meldeten sich 2018 einige Mitarbeiter:innen von einer externen Software-Firma namens Edison Software, die persönlich Hunderte Mails analysiert hätten, um neue Funktionen für Gmail zu erkennen. Laut ihnen wäre es vollkommen normal, dass Drittanbieter die Mails von Gmail-Nutzer:innen einsehen können, um ihre Dienste zu verbessern oder Werbung personalisieren zu können.
Um das zu tun, müssen die Drittanbieter allerdings eure Einwilligung eingeholt haben. Möchtet ihr diese wieder zurückziehen, könnt ihr das über euer Google-Konto. Wählt dort im mittleren Filter "Zugriff auf Gmail" aus, um alle Dienste zu sehen.
Presto Voice: Automatische Drive-ins
Presto Automation ist ein Unternehmen, das Drive-ins von Fast-Food-Restaurants automatisieren will. Kund:innen können einfach ihre Bestellung einsprechen und schon landet alles auf einer Liste in der Küche. Das soll Aufwände für Mitarbeiter:innen reduzieren und die Verkäufe ankurbeln.
Wie The Verge berichtete, wurde aber nur ein Bruchteil der Bestellungen von der Software übernommen. In 70 Prozent der Fälle mussten Mitarbeiter:innen aus der Ferne einschreiten, die unter anderem auf den Philippinen arbeiteten.
Mittlerweile kämpft das Unternehmen mit finanziellen Problemen. Die Zukunft scheint derzeit ungewiss für Presto Voice.
Scale AI: Training künstlicher Intelligenz
Um eine KI zu erschaffen, muss diese mit Daten trainiert werden. Unternehmen wie Scale AI stellen diese Daten zur Verfügung und trainieren KI für andere Firmen. Allerdings passiert das oft nicht automatisch, sondern aufwendig durch Menschenhand – zu horrenden Bedingungen. Im Falle von Scale AI stammen die Daten von etwa 10.000 Mitarbeiter:innen auf den Philippinen, wie die Washington Post berichtete.
Die Mitarbeiter:innen passen Texte an, beschriften Bilder und unterscheiden etwa Menschen von anderen Objekten in Videos, um die KI mit Daten zu füttern. Laut einigen Mitarbeiter:innen bekommen sie dafür einen Hungerlohn. Zudem würden Zahlungen auch immer wieder ausbleiben. Dennoch bleiben viele bei der erschöpfenden Arbeit, da sie sonst keine Alternative finden können.
X.ai: Virtueller Assistent
Das KI-Unternehmen hatte 2016 einen virtuellen Assistenten ins Leben gerufen, mit dem ihr per Mail kommunizieren konntet. Der Assistent war so etwa in der Lage, Termine anzulegen, Essen zu bestellen oder Mails zu beantworten.
Schon bald darauf meldeten sich anonyme Mitarbeiter:innen gegenüber Bloomberg und bestätigten, dass hinter der Fassade Menschen sitzen, die die Anfragen beantworten.
Expensify: Bestätigung für Belege
Mit Expensify konnten Mitarbeitende 2017 Belege für ihr Unternehmen einreichen. Anhand eines Fotos hat das System erkannt, welche Ausgaben es gab, ob diese mit den Unternehmensrichtlinien übereinstimmen und diese dann zur Abrechnung weitergeleitet.
Allerdings kam das System wohl nicht ganz so gut zurecht, wie die Verantwortlichen gedacht hatten. Belegprüfungen tauchten auf Amazons MTurk-Plattform auf (mehr dazu weiter unten), auf der menschliche Mitarbeiter:innen die Ausgaben zuordnen und bestätigen sollten.
Laut Expensify sollen die Belege nur auf der Plattform gelandet sein, um eine neue Funktion für den Dienst zu testen. 2021 ist das Unternehmen an die Börse gegangen, die Aktie hat seitdem etwa 95 Prozent ihres Werts verloren.
Theranos: Bluttests
Einen besonderen Fall des Betrugs hat sich das Unternehmen Theranos geleistet. Ein neuartiges Gerät sollte automatische Bluttests anbieten. Mit wenigen Tropfen sollten präzise Gesundheitsdaten der Patient:innen gesammelt werden. Erste Präsentationen zeigten vielversprechende Ergebnisse.
Wie sich später herausstellte, wurde bei diesen Präsentationen allerdings betrogen. Im Hintergrund hatten Theranos-Mitarbeiter:innen Testgeräte von Siemens genutzt. Bis das bekannt wurde, sicherte sich das Unternehmen von Privatinvestoren und Kapitalgebern rund 700 Millionen US-Dollar.
Die Gründerin des Unternehmens, Elizabeth Holmes, wurde nach der Enthüllung wegen Betrugs in vier Fällen zu elf Jahren Haft verurteilt. Sie musste zudem 452 Millionen Dollar an die Investoren zurückzahlen. Im Mai 2023 trat sie ihre Strafe an. Aktuell geht man davon aus, dass sie mit guter Führung bereits im Dezember 2032 das Gefängnis verlassen darf.
Bonus: Amazons Mechanical Turk
Ein besonderer Fall ist Amazons Mechanical Turk (kurz: MTurk). Dabei handelt es sich um eine Plattform für kleinere Aufgaben, mit denen sich Menschen etwas Geld dazuverdienen können. Beispielsweise kann ein:e Anbieter:in die Bearbeitung eines Bildes, Hilfe beim Texten oder sogar Aufgaben wie das Lösen von Captchas für einen gewissen Betrag einstellen. Alle MTurk-Mitarbeitenden können sich dann die Aufträge für die gebotene Summe schnappen.
Amazon bietet also offen an, dass Menschen kleinere Aufgaben zu niedrigen Preisen erledigen können, statt Automationen zu nutzen. Im Grunde also das Gegenteil unserer bisherigen Liste. Allerdings haben die Mitarbeitenden einen Weg gefunden, um die Aufgaben des Dienstes wieder zu automatisieren.
So haben sie KI genutzt, um Texte zu schreiben, Bilder zu bearbeiten oder sogar andere KI mit neuen Daten zu füttern. Hier haben also die Menschen vorgegeben, dass es sich um echte Arbeit handeln würde, aber im Hintergrund die Automation alle Aufgaben erledigen lassen. Mittlerweile verbietet Amazon den Einsatz von KI in den Richtlinien des Dienstes.