Meta a été confronté à de sérieuses questions sur la manière dont il permet à ses utilisateurs mineurs d’interagir avec des chatbots basés sur l’IA. Plus récemment, des communications internes obtenues par le bureau du procureur général du Nouveau-Mexique ont révélé que, bien que le PDG de Meta, Mark Zuckerberg, s’opposait à ce que les chatbots aient des conversations « explicites » avec des mineurs, il rejetait également l’idée de placer un contrôle parental sur cette fonctionnalité.
Reuters a rapporté que lors d’un échange entre deux employés anonymes de Meta, l’un d’eux a écrit que nous « avons fait de gros efforts pour que le contrôle parental désactive GenAI – mais les dirigeants de GenAI ont repoussé la décision de Mark ». Dans sa déclaration à la publication, Meta a accusé le procureur général du Nouveau-Mexique de « sélectionner des documents pour dresser un tableau imparfait et inexact ». Le Nouveau-Mexique poursuit Meta pour des accusations selon lesquelles la société « n’a pas réussi à endiguer la vague de matériel sexuel préjudiciable et de propositions sexuelles adressées aux enfants » ; l’affaire devrait être jugée en février.
Bien qu’ils ne soient disponibles que pendant une brève période, les chatbots de Meta ont déjà accumulé un certain nombre de comportements qui virent à l’offensant, voire à l’illégal. En avril 2025, le Wall Street Journal a publié une enquête révélant que les chatbots de Meta pouvaient s’engager dans des conversations sexuelles fantastiques avec des mineurs, ou pouvaient être invités à imiter un mineur et à s’engager dans une conversation sexuelle. Le rapport affirmait que Zuckerberg avait souhaité que des gardes plus souples soient mises en place autour des chatbots de Meta, mais un porte-parole a nié que l’entreprise ait négligé la protection des enfants et des adolescents.
Des documents d’examen interne révélés en août 2025 détaillaient plusieurs situations hypothétiques sur les comportements de chatbot qui seraient autorisés, et la frontière entre sensuel et sexuel semblait assez floue. Le document permettait également aux chatbots d’argumenter des concepts racistes. À l’époque, un représentant avait déclaré à Engadget que les passages incriminés étaient des hypothèses plutôt que des politiques réelles, ce qui ne semble pas vraiment être une grande amélioration, et qu’ils ont été supprimés du document.
Malgré les multiples cas d’utilisation douteuse des chatbots, Meta n’a décidé de suspendre l’accès des comptes adolescents à ceux-ci que la semaine dernière. La société a déclaré qu’elle supprimait temporairement l’accès pendant qu’elle développait les contrôles parentaux que Zuckerberg aurait refusé d’utiliser.
« Les parents peuvent depuis longtemps voir si leurs adolescents discutent avec des IA sur Instagram, et en octobre, nous avons annoncé notre intention d’aller plus loin, en créant de nouveaux outils pour donner aux parents plus de contrôle sur les expériences de leurs adolescents avec les personnages IA », a déclaré un représentant de Meta. « La semaine dernière, nous avons encore une fois renforcé notre engagement à tenir notre promesse en matière de contrôle parental pour l’IA, en suspendant complètement l’accès des adolescents aux personnages de l’IA jusqu’à ce que la version mise à jour soit prête. »
Le Nouveau-Mexique a intenté cette action en justice contre Meta en décembre 2023, affirmant que les plateformes de l’entreprise n’avaient pas réussi à protéger les mineurs contre le harcèlement des adultes. Des documents internes révélés au début de cette plainte ont révélé que 100 000 enfants utilisateurs étaient harcelés quotidiennement sur les services de Meta.
Mise à jour, 27 janvier 2025, 18 h 52 HE : ajout d’une déclaration du porte-parole de Meta.
Mise à jour, 27 janvier 2025, 18 h 15 HE : correction du calendrier erroné du procès au Nouveau-Mexique, qui a été déposé en décembre 2023, et non en décembre 2024.