Der US-Konzern Meta hat einen besseren Schutz von minderjährigen Nutzerinnen und Nutzern vor sexueller Erpressung angekündigt. Meta teilte am Donnerstag mit, es werde erprobt, eine von künstlicher Intelligenz (KI) unterstützte Software einzusetzen.
Diese Software solle automatisch Nacktbilder entdecken, die über die Instagram-Direktnachrichtenfunktion an Minderjährige versendet werden und sie unkenntlich machen. Zudem sollen an alle User, die solche Inhalte versenden, automatisch Sicherheitstipps versendet werden.
Allerdings wird das Bild nicht endgültig unkenntlich gemacht. «Der Empfänger hat die Wahl, ob er das Bild sehen möchte oder nicht», sagte Capucine Tuffier, die bei Meta Frankreich für den Kinderschutz zuständig ist, der Nachrichtenagentur AFP. Mit den neuen Massnahmen sollten junge Menschen vor «ungewolltem und potenziell gefährlichem Kontakt» bewahrt werden, hiess es von Meta weiter.
Ziel des «Nudity Protection»-Tools ist der bessere Schutz vor sogenannter Sextortion. Dabei bringen die Täter oft minderjährige Opfer dazu, sexuell eindeutige Bilder oder Videos zu erstellen und ihnen zu senden. Die Täter drohen daraufhin mit der Veröffentlichung des Materials, um Geld oder weitere Bilder zu erpressen.
Die neue Funktion soll zunächst in mehreren Ländern in Mittel- und Lateinamerika getestet und in den kommenden Monaten weltweit eingesetzt werden.
«Die Frage ist, warum sie das nicht längst schon getan haben», sagte der Informationswissenschaftler Olivier Ertzscheid von der Universität Nantes. Die nötige Software gebe es bereits seit einigen Jahren. Er warnte auch vor falschen Anzeigen, etwa bei Bildern von Frauen in Badeanzügen. «Bei sämtlichen Plattformen herrscht ein Mangel an Moderation durch Menschen», kritisierte er.
Meta hatte bereits im Januar einen verstärkten Jugendschutz auf der Plattform Instagram angekündigt. Um ein Konto von privat auf öffentlich zu setzen, muss ein Jugendlicher demnach die Zustimmung seiner Eltern einholen.
Zum Meta-Konzern gehören unter anderem Facebook, Instagram und Whatsapp. Das Unternehmen steht massiv in der Kritik, weil es seine Nutzer und vor allem Kinder nicht genug schütze. Kritiker werfen Meta seit Jahren vor, dass insbesondere pädophile Nutzer seine Online-Netzwerke und Messenger-Dienste zu leicht für die Verbreitung von kinderpornografischem Material nutzen können.
Mehr als 40 US-Bundesstaaten haben Meta bereits wegen des aus ihrer Sicht unzureichenden Schutzes insbesondere von Kindern durch den Konzern verklagt. Auch die EU-Kommission hat eine Untersuchung zu den Kinderschutzmassnahmen von Meta und anderen Digitalkonzernen eingeleitet.
Verwendete Quellen:
(t-online/dsc)