Berichten zufolge hat Netflix in einer kürzlich veröffentlichten Dokumentation über ein reales Verbrechen Bilder verwendet, die anscheinend von KI generiert oder manipuliert wurden.
"What Jennifer Did" handelt von einem Auftragsmord, in den eine Frau namens Jennifer Pan verwickelt war und der sich 2010 in Kanada ereignete. Der Streaming-Dienst soll Bilder verwendet haben, um Jennifer Pans Persönlichkeit darzustellen, die von ihrem Schulfreund Nam Nguyen als "lebhaft, fröhlich, selbstbewusst und sehr authentisch" beschrieben wurde.
Ab Minute 28 des Dokumentarfilms zeigen mehrere Bilder Pan mit verdrehten und verzerrten Händen und Fingern, verzerrten Gesichtszügen, Objekten im Hintergrund, die sich verändert haben, und einem übermäßig langen Schneidezahn.
Auf späteren Bildern haben sich die Gesichtszüge jedoch verändert, zum Beispiel erscheint der ehemals lange Vorderzahn nun gerade. Sollten sich die Behauptungen bewahrheiten, wirft dies ernsthafte Bedenken hinsichtlich der Verwendung solcher Bilder in Dokumentarfilmen auf, zumal die abgebildete Verdächtige derzeit im Gefängnis sitzt und auf ein Wiederaufnahmeverfahren wartet.
Es ist allgemein bekannt, dass KI-Bildgeneratoren Schwierigkeiten haben, Bilder von menschlichen Händen zu erzeugen. Es ist schwer zu sagen, was genau während des Bearbeitungsprozesses passiert ist, aber es ist möglich, dass die Produzenten ein einzelnes Bild als Quelle für die Erstellung weiterer "Fotos" verwendet haben. Das Ergebnis könnte jedoch als einseitige und nicht als unvoreingenommene Darstellung der Fakten des Falles wahrgenommen werden.
Das Berufungsgericht von Ontario ordnete einen Wiederaufnahmeprozess wegen Mordes ersten Grades für die Frau aus der Gegend von Toronto im Jahr 2023 an. Grund dafür war die Ansicht des Richters, dass den Geschworenen mehr Möglichkeiten hätten eingeräumt werden müssen.
Ein Nutzer sozialer Medien warfen dem Dienst vor, sich auf künstliche Intelligenz zu verlassen, anstatt Menschen für die Arbeit einzustellen. Der Autor von Futurism, Victor Tangermann, erklärte: "Der Einsatz von Technologie zur Erstellung von Bildern einer echten Person, insbesondere von jemandem, der noch im Gefängnis sitzt und nicht vor 2040 auf Bewährung freikommen wird, sollte die Alarmglocken läuten lassen."
Netflix using AI for this documentary called What Jennifer Did is so reckless. Wtf is wrong with these streaming services? There are so many talented journalists, graphic designers, producers, etc. Why not use A HUMAN to get this right?
— Jurnee 🍉 (@enjoythejurnee) April 15, 2024
Wie setzt Netflix KI ein?
Netflix nutzt KI, um zu beobachten, was die Nutzer sehen, was ihnen gefällt und was sie hoch bewerten. Auf der Grundlage dieser Informationen schlägt Netflix dann weitere Sendungen und Filme vor, die für die Nutzer interessant sein könnten.
Der Streaming-Dienst hat ein Forschungscenter für maschinelles Lernen eingerichtet, um "innovative Techniken für effiziente Schätzmethoden in der prädiktiven Modellierung zu erforschen und zu untersuchen, wie diese Modelle in der realen Welt in diskreten Überlebenssituationen angewendet werden können".
Netflix zufolge konzentriert es sich auf externe Schätzmethoden, die für die Bewertung und Optimierung von Strategien von entscheidender Bedeutung sind, und befasst sich mit Herausforderungen wie Verteilungsverschiebungen und großen Handlungsspielräumen durch innovative Techniken wie Policy Convolution-Schätzer. Darüber hinaus erforscht es die Quantifizierung von Unsicherheiten, die empirische Risikominimierung unter adaptiven Daten und effiziente Bayes'sche Deep-Learning-Methoden, um die Risikoverbesserung und Generalisierungsgarantien in Anwendungen des maschinellen Lernens zu verbessern.
Das Unternehmen wurde bereits von Hollywood-Schauspielern und Schriftstellern kritisiert, nachdem es eine Stellenanzeige für einen KI-Experten veröffentlicht hatte. Die Anzeige, in der ein Jahresgehalt von bis zu 900.000 Dollar angeboten wurde, hat die Bedenken der Hollywood-Gewerkschaften hinsichtlich der Auswirkungen von KI auf die Unterhaltungsindustrie und die Löhne verschärft.
ReadWrite hat Netflix um eine Stellungnahme gebeten.
Featured image: Netflix (zum Teil Poster Image)