Les sociétés de médias sociaux ont été critiquées pour ne pas en faire assez pour protéger les mineurs sur leurs plateformes.
Instagram va commencer à tester de nouvelles fonctionnalités visant à « protéger les jeunes contre la sextorsion et l’abus d’images intimes ».
L’extorsion sexuelle ou « sextorsion » est une forme de chantage qui consiste à contraindre quelqu’un à partager des photos ou des vidéos sexuellement explicites et à les utiliser pour menacer ou exploiter quelqu’un.
L’un des nouveaux outils détectera et floutera les images contenant de la nudité et demandera aux gens de réfléchir à deux fois avant de les envoyer. Pour toutes les personnes de moins de 18 ans, cette fonctionnalité sera activée sur Instagram.
Lorsque l’outil « Protection de la nudité » est activé, les utilisateurs recevront un message les invitant à « faire attention lors du partage de photos sensibles ».
Ils peuvent également retirer les photos qu’ils ont déjà envoyées et qui contiennent de la nudité.
Lorsque quelqu’un reçoit une photo de nu, celle-ci sera floutée avec un avertissement indiquant que la photo « peut contenir de la nudité ».
L’outil utilise l’apprentissage automatique pour analyser si l’image contient de la nudité.
« Comme les images sont analysées sur l’appareil lui-même, la protection contre la nudité fonctionnera dans les discussions cryptées de bout en bout, où Meta n’aura pas accès à ces images – à moins que quelqu’un ne choisisse de nous les signaler », a déclaré Instagram, propriété de Mark. Meta de Zuckerberg, a déclaré dans un article de blog.
Les autres fonctionnalités incluent de nouvelles notifications envoyées aux personnes susceptibles d’avoir interagi avec un compte supprimé pour sextorsion, ainsi que le masquage du bouton de message sur les profils des jeunes pour d’éventuels comptes se livrant à de la sextorsion.
Susie Hargreaves, PDG de l’Internet Watch Foundation (IWF), basée au Royaume-Uni, a déclaré dans un communiqué fourni à L’Observatoire de l’Europe Next que l’extorsion sexuelle peut avoir des « répercussions horribles » et que l’organisation à but non lucratif applaudit « tout effort des entreprises technologiques pour protéger » enfants utilisant les réseaux sociaux.
« Cependant, même si le nouvel outil est une initiative bienvenue de la part de Meta, tous les avantages potentiels seront compromis par sa décision de déployer un cryptage de bout en bout sur ses canaux de messagerie », a ajouté Hargreaves.
« Ce faisant, il ferme délibérément les yeux sur les abus sexuels sur enfants. Il est possible et nécessaire de faire davantage pour protéger les millions d’enfants qui utilisent les services de Meta ».
Augmentation récente de la sextorsion
Dans un rapport publié en janvier, le Network Contagion Research Institute a déclaré que la sextorsion financière augmentait à un rythme alarmant.
Le rapport ajoute qu’Instagram est la plate-forme la plus courante pour cibler les victimes, car les maîtres chanteurs peuvent obtenir rapidement des informations personnelles sur les personnes.
Snapchat, quant à lui, était la plateforme la plus fréquemment utilisée pour contraindre les gens à envoyer des photos compromettantes.
La Commission européenne a envoyé en 2023 des demandes à Meta et Snap, la société mère de Snapchat, pour qu’elles fournissent plus d’informations sur les mesures qu’elles ont prises pour protéger les mineurs, ce qui est une exigence de la loi sur les services numériques.
Les sociétés de médias sociaux ont été critiquées à plusieurs reprises pour leur incapacité à protéger les enfants en ligne.
Lors d’une audience au Sénat américain plus tôt cette année, le PDG de Meta, Mark Zuckerberg, a présenté ses excuses aux parents qui ont déclaré que les médias sociaux avaient porté préjudice à leurs enfants.
Il a déclaré que personne « ne devrait vivre ce que vous et vos familles avez souffert ».
Les institutions européennes envisagent quant à elles de nouvelles lois sur les contenus pédopornographiques qui obligeraient les entreprises à empêcher la diffusion de ce type de matériel. Ils ont cependant fait l’objet de débats en raison de problèmes de confidentialité.
Cette semaine, les législateurs européens ont voté en faveur de l’extension jusqu’en 2026 d’une exemption actuelle aux règles de confidentialité qui permet aux plateformes de détecter les contenus pédopornographiques.
