Anthropic annonce avoir stoppé jeudi plusieurs opérations de surveillance menées à l’aide de son assistant d’intelligence artificielle, selon un communiqué de la société. Le groupe indique que ces usages malveillants ciblaient notamment des dissidents et des minorités ethniques, et qu’il a agi pour faire cesser des activités jugées contraires à ses règles d’utilisation. L’outil incriminé est l’assistant conversationnel Claude, développé par l’entreprise.

Dans son exposé, Anthropic évoque un spectre d’abus qui comprend l’espionnage, des tentatives d’aide à la mise au point d’armes et des escroqueries, soulignant les risques que font peser certains détournements de technologies d’intelligence artificielle sur des populations vulnérables. La société affirme avoir identifié et interrompu plusieurs opérations avant qu’elles n’aboutissent, sans pour autant fournir de bilan chiffré détaillé dans son annonce publique.

La révélation intervient dans un contexte de débats accrus sur la régulation et la sécurité des systèmes d’IA, où entreprises, autorités et organisations de la société civile cherchent à mieux encadrer les usages potentiellement dangereux. Les géants du secteur sont sous pression pour renforcer les garde-fous et améliorer les mécanismes de détection des usages abusifs, tandis que les États discutent de normes et de contrôles susceptibles d’empêcher l’exploitation des modèles à des fins criminelles ou répressives.

Les mesures annoncées par Anthropic s’inscrivent dans une tendance générale d’activisme préventif des éditeurs d’IA, qui multiplient audits internes, restrictions d’accès et collaborations externes pour limiter les détournements. Reste cependant la question de la transparence sur l’étendue réelle des incidents et sur l’efficacité des réponses apportées. Les observateurs et acteurs concernés attendent désormais des précisions sur les mécanismes de contrôle déployés et sur la manière dont ces technologies seront surveillées pour éviter de nouvelles atteintes aux droits fondamentaux.