Le 3 avril, une exemption légale temporaire autorisant les plateformes à détecter les contenus pédopornographiques en Europe expirera – et les conséquences pourraient être importantes. La responsable de la communication de Thorn, Cassie Coccaro, s’est entretenue avec la directrice politique Emily Slifer pour expliquer ce qui se passe, pourquoi cela est important au-delà de l’Europe et quels sont les enjeux pour les enfants si cette lacune juridique prend effet.

Transcription

(Remarque : la transcription est générée automatiquement)

Cassie Coccaro, Épine

D’accord, il se passe actuellement quelque chose en Europe qui ne reçoit pas suffisamment d’attention, alors qu’il devrait l’être. Ainsi, le 3 avril, les plateformes pourraient perdre la capacité légale de détecter les contenus pédopornographiques dans toute l’UE. Non pas parce que quelqu’un le souhaite, mais parce que les décideurs politiques n’ont pas pu parvenir à un accord à temps. Je suis donc assis aujourd’hui avec Emily Slifer. Elle est la directrice des politiques de Thorn. Elle est basée à Bruxelles. Elle a suivi la situation de très près et l’a vue se dérouler.

Elle va nous expliquer aujourd’hui ce que cela signifie, pourquoi les enjeux sont si élevés et pourquoi, même si cela se produit en Europe, le monde doit s’en soucier. Merci beaucoup de vous joindre à moi pour discuter, Emily.

Emily Slifer, Épine

Merci beaucoup, Cassie, de m’avoir invité.

Cassie Coccaro, Épine

D’accord, tout d’abord, si vous pouviez simplement planter le décor, que se passe-t-il actuellement en Europe qui vous inquiète ?

Emily Slifer, Épine

Alors oui, vous l’avez dit à un niveau élevé, mais le 3 avril, il n’y aura plus de base juridique permettant aux entreprises de détecter les contenus pédopornographiques. Et comme vous l’avez dit, ce n’est pas parce que c’est ce que les gens veulent, mais d’une certaine manière, la politique a en quelque sorte fait obstacle. Cela aurait dû être une solution rapide et très simple qui signifiait que tout ce qu’ils faisaient était de prolonger une loi, mais au lieu de cela, le 3 avril, cette loi expirera et il n’y a aucune base juridique pour le faire.

Cassie Coccaro, Épine

D’accord, donc d’après ce que j’ai compris de nos conversations, nous avons déjà vu cela auparavant, n’est-ce pas ? Que s’est-il passé la dernière fois qu’il y a eu un écart ? Pouvez-vous nous expliquer un peu cela ?

Emily Slifer, Épine

Oui, c’était il y a environ cinq ans, c’était en 2021, lorsqu’ils ont dû pour la première fois rédiger ce projet de loi pour remédier à quelque chose. Il y a eu un intervalle d’environ sept mois pendant lequel il n’existait aucune base légale pour la détection du CSAM. La plupart des entreprises ont décidé de prendre ce risque, quelques-unes ont choisi de ne pas le faire, ce qui a entraîné une réduction de 58 % des dossiers signalés au NCMEC.

Cela équivaut à environ 2,5 millions d’abus. Donc pas mal de documents n’ont pas été trouvés, vous savez, et comme vous le savez, Cassie, ce n’est pas juste des dossiers. Ce sont des enfants, vous savez, c’est du matériel abusif qui n’est pas retiré et retiré et transmis aux forces de l’ordre.

Cassie Coccaro, Épine

Oui, cela semble potentiellement être une situation assez grave. Nous l’avons donc déjà vu. Pourquoi? Je t’ai entendu dire que cette fois, ce serait peut-être pire. Pourquoi donc?

Emily Slifer, Épine

Je pense qu’il y a deux choses. Premièrement, la technologie est différente. Nous sommes dans une autre époque à ce stade. Nous constatons non seulement de plus grands volumes de CSAM, mais nous les voyons devenir plus violents et plus agressifs. Et puis en plus de cela, quand on s’intéresse à la politique, à cause de cette expiration, il n’y a pas vraiment de voie claire sur la façon de résoudre ce problème. Il faudra beaucoup de travail et beaucoup de temps pour trouver une nouvelle solution législative. Cela pourrait donc durer bien plus de sept mois cette fois-ci.

Cassie Coccaro, Épine

Wow, d’accord, donc ce qui m’intéresse, c’est de travailler chez Thorn, je sais que les entreprises veulent réellement faire ça, même avec toutes les nouvelles récentes concernant les problèmes de sécurité sur les plateformes technologiques. Il ne s’agit pas nécessairement d’une histoire de technologie refusant d’agir, n’est-ce pas ?

Emily Slifer, Épine

Pas du tout. Il s’agit en grande partie d’un problème politique. Et au fur et à mesure que je suivais cela, nous avons vu les entreprises s’exprimer très publiquement et dire qu’elles voulaient continuer à faire ce qu’elles font. Personne ne veut du CSAM sur ses plateformes et veut pouvoir faire ce qui est nécessaire. Ce sont eux qui savent innover le plus rapidement possible pour créer des solutions et des choses. Ils veulent pouvoir le faire. Il ne s’agit donc pas d’un manque de volonté cette fois-ci. Il s’agit en fait d’un manque de volonté politique.

Cassie Coccaro, Épine

D’accord, nous avons donc décidé d’aller sur place et d’en parler au monde et de leur dire que cela se produit, mais aidez-moi à comprendre un peu la dimension mondiale. Je crains que lorsque les gens entendront cela, ils diront que c’est une loi européenne et le mettront en quelque sorte dans un coin de leur tête. Pourquoi quelqu’un aux États-Unis ou même ailleurs devrait-il s’intéresser à cela alors que cela se produit en Europe ?

Emily Slifer, Épine

Eh bien, avant tout, les données sont toutes connectées. Vous ne pouvez plus cloisonner les données dans une seule partie géographique du monde. Mais plus encore, ces abus ne se produisent pas en vase clos, en un seul endroit. C’est l’une des choses qui viennent avec Internet, n’est-ce pas ? Il peut s’agir d’un enfant européen victime d’abus et diffusé en direct aux États-Unis, ou d’images d’un enfant américain prises aux États-Unis mais envoyées à des utilisateurs européens. Et nous allons le perdre. Nous ne pourrons pas voir cela parce qu’ils ne seront plus en mesure de détecter cela.

Encore une fois, ce n’est pas seulement un problème européen, c’est un problème mondial, comme l’est tout le travail que nous effectuons chez Thorn.

Cassie Coccaro, Épine

Ouais. Qu’en est-il spécifiquement du contenu généré par l’IA, du matériel d’abus sexuel sur enfants généré par l’IA, des préjudices facilités par l’IA, des choses comme ça. Pourquoi cela rend-il cette pièce encore plus urgente ?

Emily Slifer, Épine

Oui, je pense que la chose la plus importante que nous ayons vue avec le matériel généré par l’IA est la façon dont il peut augmenter les dégâts. Personne ne souhaite que son produit soit utilisé de cette manière, mais il a malheureusement été utilisé pour créer du CSAM généré par l’IA. Il se peut donc que ce soient des images complètement innocentes d’un enfant qui soient transformées en CSAM ou des morceaux existants de CSAM et que l’enfant ait été sauvé, mais ils utilisent ces images pour créer davantage d’images d’abus de cet enfant. Cela ressemble beaucoup à un En tant que catalyseur, cela contribue à étendre le problème à un rythme que nous n’avions pas connu il y a cinq ans, lorsque nous avions un écart la dernière fois.

Cassie Coccaro, Épine

C’est vraiment effrayant. J’ai donc le sentiment que les gens vont entendre cela et, espérons-le, y réfléchir davantage et s’inquiéter. Alors, que voulez-vous que les gens, les politiciens et les autres personnes qui suivent cela fassent de toutes ces informations en ce moment ?

Emily Slifer, Épine

Je dirais que si vous êtes le grand public, si vous êtes un citoyen de l’UE, vous devez parler à vos décideurs politiques et leur dire de retourner à la planche à dessin. Nous devons trouver une solution. Nous ne pouvons pas permettre que cet écart se produise. Ils ont encore quelques jours pour le faire. Si nous arrivons au 3 avril et que nous avons un écart, nous devons quand même faire pression. Nous avons encore besoin d’eux pour trouver une solution.

Cassie Coccaro, Épine

D’accord, merci beaucoup. Je suppose que vous nous tiendrez tous au courant de ce qui se passera dans les semaines à venir.

Emily Slifer, Épine

Absolument. Merci beaucoup.