Auf Instagram, Twitter und TikTok verbreitet sich gerade ein neues Geschäftsmodell für Influencer:innen, das auf Deepfake-Technologie basiert. Darüber hat zuerst das US-Medium 404 Media berichtet. Dabei nutzen Menschen bereits veröffentlichtes Videomaterial von Models oder Sexarbeiter:innen und tauschen lediglich das Gesicht aus. Mit sogenannter Künstlicher Intelligenz entstehen dabei täuschend echte Aufnahmen, sogenannte Deepfakes.
Vermehrt erreichen diese selbst ernannten virtuellen Influencer:innen teils Hunderttausende Follower:innen. Viele locken Nutzer:innen mit ihren manipulierten Bildern und Videos auf den öffentlich zugänglichen sozialen Netzwerken zu zahlungspflichtigen Erotik-Inhalten bei Seiten wie OnlyFans oder Fanvue. Zumindest manche Menschen hinter diesen Accounts geben an, dass sie vom Computer generierte Bilder und Videos nutzen.
Laut 404Media wird diese Methode in Ratgebern für virtuelle Influencer empfohlen, um die Figuren glaubwürdiger zu machen. Derzeit ist noch keine Technik für die breite Öffentlichkeit verfügbar, die komplette, realistische Videos mit Personen generieren kann. Bislang haben das Unternehmen wie Open AI bloß angekündigt. Bei der von 404 Media gefundenen Fake-Methode sind deshalb immer noch Originalvideos notwendig, um den Inhalt zu erstellen.
Als Reaktion auf die Recherche von 404Media hat Instagram manche der recherchierten Accounts gelöscht, auf anderen Plattformen blieben sie online.
Meta plant, das ab Mai mit Künstlicher Intelligenz generierte Inhalte gekennzeichnet werden sollen, wenn Meta das selbst erkennt oder Nutzer:innen das selbst offenlegen. Mit der europäischen KI-Verordnung kommen zudem Kennzeichnungspflichten bei Deepfakes auch per Gesetz. Diese werden allerdings unseriöse Akteur:innen nicht davon abhalten, Deepfakes zu verschleiern. Es ist fraglich, ob Wasserzeichen und andere technische Lösungen überhaupt in der Lage sind, das Problem zu bekämpfen oder ob nicht vielmehr Bildung und neuer gesellschaftlicher Umgang hier weiterhelfen.