Instagram gaat privéberichten van gebruikers door middel van client-side scanning op naaktafbeeldingen controleren. De feature wordt wereldwijd standaard ingeschakeld bij minderjarige gebruikers. Zodra gebruikers in een privébericht naar een andere gebruiker een naaktafbeelding sturen krijgt de gebruiker een melding te zien om voorzichtig te zijn met het delen van gevoelige foto's. Daarnaast wordt de foto geblurd.
Gebruikers die een ontvangen naaktafbeelding doorsturen krijgen ook een melding te zien, waarin wordt uitgelegd dat dit nadelige gevolgen kan hebben. Zo kunnen gebruikers hun keuze heroverwegen, aldus Meta. Wanneer iemand een naaktafbeelding ontvangt wordt die automatisch geblurd en krijgt de gebruiker een waarschuwing te zien dat het om een naaktafbeelding gaat. Vervolgens krijgt de gebruiker de keuze of hij de foto wil bekijken.
Volgens Meta maakte de feature gebruik van 'on-device machine learning' om te bepalen of een verstuurde foto een naaktafbeelding is. "Omdat afbeeldingen op het apparaat zelf worden gecontroleerd, werkt nudity protection in end-to-end versleutelde chats, waar Meta geen toegang tot de afbeeldingen heeft, tenzij iemand ze aan ons rapporteert", aldus het bedrijf.
De feature moet volgens Meta gebruikers bescherming tegen sextortion en andere scams. Het valt echter onder de definitie van 'client-side scanning'. Experts waarschuwen al geruime tijd dat dergelijke systemen ook zijn te gebruiken om andere vormen van content te controleren en blokkeren. De Europese Commissie wil door middel van client-side scanning alle chatberichten van Europeanen controleren.