Aujourd’hui, à l’occasion de la Journée pour un Internet plus sûr, Thorn se joint aux organisations de sécurité des enfants du monde entier dans le cadre d’une appel unifié pour interdire les outils nudifiants. Nous sommes fiers de nous tenir aux côtés de partenaires tels que Safe Online, NCMEC, Internet Watch Foundation, INHOPE, Child Helpline International et We Protect Global Alliance et bien d’autres pour exiger des mesures de la part des gouvernements, des entreprises technologiques et des communautés pour faire face à cette menace croissante qui pèse sur les enfants.

Pourquoi nous prenons cette position

Les outils de nudification utilisent l’IA pour générer des images nues à partir de photos habillées. Bien que souvent destinés aux adultes, ces outils sont de plus en plus utilisés comme armes contre les enfants, créant de nouveaux contenus pédosexuels (CSAM) à partir de photos innocentes.

Chez Thorn, nous croyons qu’il est important de travailler avec l’écosystème technologique pour intégrer la sécurité dans les produits dès le départ. Mais dans le cas des outils de nudification, nous pensons qu’une approche différente est nécessaire. La technologie conçue dans le but de créer des images intimes non consensuelles ne devrait pas exister.

Ce que l’on sait de l’impact sur les jeunes

Les recherches de Thorn nous donnent une idée directe de la manière dont cette menace affecte les jeunes. Notre récente étude sur les deepfakes nus et les jeunes a constaté qu’il ne s’agit pas d’une préoccupation abstraite ou future, mais d’une réalité présente :

Les nus Deepfake font désormais partie de l’expérience des adolescents. 1 adolescent sur 8 connaît une personne ciblée par des deepfake nudes, tandis qu’1 sur 17 a déclaré avoir été victime directe de cette forme d’abus.

Même si elles reconnaissent le préjudice, les victimes souffrent souvent en silence. Alors que 62 % des non-victimes déclarent qu’elles en parleraient à un parent si cela leur arrivait, en réalité, seules 34 % des victimes l’ont fait. Cet écart entre l’intention et l’action révèle à quel point cette expérience peut être isolante pour les jeunes.

L’incertitude quant à la légalité persiste. 1 jeune sur 5 pense qu’il est légal de créer de faux nus de quelqu’un d’autre, y compris de mineurs. Cette confusion souligne le besoin urgent de lois claires, d’une application cohérente et d’une éducation.

Compte tenu de cette réalité, nous savons que les technologies de deepfake nue, y compris les applications de nudification, sont trop accessibles. Ils sont utilisés contre des enfants et l’écosystème qui les permet doit être perturbé.

La réponse technologique dont nous avons besoin

Depuis plus de deux ans, Thorn a travaillé avec des développeurs, des plateformes et des décideurs politiques d’IA par le biais de notre Initiative Sécurité dès la conception établir des garde-fous contre l’utilisation abusive de l’IA générative à des fins d’abus sexuels sur des enfants. Nous savons à quoi ressemble le développement responsable, et les outils nudifiants ne respectent pas ces normes.

La communauté technologique a la responsabilité d’agir immédiatement en mettant en œuvre des mesures de sécurité dès la conception qui empêchent le développement et le déploiement d’outils permettant de tels abus, en déployant des systèmes de détection robustes pour identifier et supprimer le contenu nudifié, en supprimant les outils nudifiants des magasins d’applications, des services d’hébergement et des résultats de recherche, et en interrompant le traitement des paiements et la monétisation de ces services.

Ce sont des mesures pratiques que les développeurs responsables devraient prendre immédiatement.

Un appel à l’action

La déclaration commune que nous signons appelle les gouvernements à adopter une législation interdisant les outils de nudification d’ici deux ans, notamment en interdisant leur développement, leur distribution et leur utilisation commerciale, en établissant la responsabilité pénale et civile de ceux qui activent ou profitent de ce contenu, et en rendant obligatoires les blocages d’accessibilité sur toutes les plateformes et services.

Nous reconnaissons que les approches législatives varient selon les juridictions et doivent être élaborées avec soin. Mais le principe de base est clair : une technologie conçue pour créer des images nues non consensuelles de n’importe qui, et particulièrement des enfantsne devrait pas exister.

Rejoignez l’appel pour dire non aux outils de nudification.

Pour obtenir des ressources sur le soutien aux jeunes touchés par les deepfakes nus, visitez Démontez-le du NCMEC ou explorez nos recherches sur ce sujet.