Ce que le chatbot Claude AI fait réellement pour CENTCOM

Dans son livre de 2025, AI, Automation, and War, Anthony King implore le lecteur de comprendre l’intelligence artificielle comme un phénomène étroitement lié à la structure organisationnelle : « Il est essentiel que nous reconnaissions et essayions de comprendre ce complexe militaro-technologique, d’autant plus que… une grande partie de la littérature a fétichisé l’IA en tant que technologie, ignorant ses aspects organisationnels. »

Pour comprendre comment l’IA est utilisée dans la guerre contre l’Iran, nous devons comprendre où se situe Claude d’Anthropic dans le système de ciblage plus vaste appelé Maven – et comment la quête du Pentagone pour un déploiement plus rapide de l’IA menace de submerger la capacité de ses planificateurs à valider les données pertinentes.

Maven, évolué

Après que l’armée américaine a capturé le président vénézuélien Nicolás Maduro, des rapports ont indiqué que les dirigeants du Pentagone avaient planifié la mission avec des outils d’IA développés par Anthropic, notamment le chatbot Claude. Des rapports similaires ont émergé depuis que les États-Unis et Israël ont commencé à frapper l’Iran le 28 février ; Le Washington Post, par exemple, a rapporté que « les outils d’IA aident à recueillir des renseignements, à choisir des cibles, à planifier des missions de bombardement et à évaluer les dégâts causés par les combats à des vitesses auparavant impossibles ».

Les questions sur l’IA se sont approfondies après qu’un missile Tomahawk a tué 175 personnes dans une école de filles à Minab, en Iran. Week à Worcester a cité un programmeur logistique du DOD qui a déclaré que le département avait accru son utilisation « d’un système basé sur Claude au cours de l’année écoulée, en l’intégrant à de nombreuses décisions opérationnelles essentielles ».

Mais ce n’est pas tout à fait la bonne façon de comprendre le rôle de Claude au sein du Commandement central américain.

Le chatbot Anthropic fait partie du plus grand Maven Smart System, qui descend du Project Maven des années 2010. Google a conçu Maven pour aider les analystes à tirer des enseignements des océans de données vidéo. Mais le titan de la Silicon Valley s’est retiré en 2018, sous l’impulsion de ses employés hésitants à aider le Pentagone. Les travaux sur Maven ont été repris par Palantir, qui a annoncé en septembre 2024 un nouveau contrat avec le laboratoire de recherche militaire DEVCOM pour améliorer son système intelligent Maven. Ce contrat, d’un montant potentiel de près de 100 millions de dollars sur cinq ans, a visiblement permis à Palantir d’étendre les fonctionnalités de Maven.

Le Maven d’aujourd’hui peut être compris comme un système de sous-composants. Certains sont fonctionnels : commandement et contrôle, renseignement sur les cibles, évaluation des dégâts de combat, etc. D’autres sont des modèles d’IA sur mesure, conçus, par exemple, pour détecter des objets dans le cadre de l’intelligence géospatiale. En fin de compte, Maven remplit trois fonctions principales : il génère des cibles, associe les munitions aux cibles et évalue les dégâts causés par les frappes.

Pour générer des cibles, par exemple, Maven croise un mélange d’informations de source ouverte et de source fermée (pensez : aux bases de données militaires de la DIA) pour identifier des cibles potentielles, avant et pendant un conflit. Les données de source fermée sont probablement des données classifiées de l’armée. La valeur des données open source augmente probablement après le début du conflit ; cela pourrait inclure les médias sociaux avec des indications sur la disposition et les mouvements des forces ennemies.

Claude semble être un complément à Maven, et non un composant nécessaire, pour deux raisons. Premièrement, les parties de Maven qui effectuent des évaluations des dégâts de combat et la fusion de données, etc. sont antérieures à tous les LLM, sans parler de Claude. Et la plateforme d’intelligence artificielle de Palantir, ou AIP, rendait certains modèles d’IA accessibles avant même que Claude ne soit intégré aux réseaux classifiés du DOD. Deuxièmement, Claude ne fournit pas directement de recommandations de ciblage, mais aide plutôt, selon Joshi, à synchroniser d’autres modules et modèles d’IA. Il peut être considéré comme une interface sophistiquée qui simplifie les tâches de l’opérateur humain.

Comment les militaires planifient

Pour comprendre comment Maven est utilisé dans le processus de ciblage militaire, nous devons comprendre le processus lui-même. Comme le décrit Shashank Joshi de The Economist, cela se déroule comme ceci :

Un commandant demande des options de ciblage dans des scénarios spécifiques. Une direction du renseignement utilise l’imagerie satellite, le renseignement électromagnétique et d’autres sources pour créer une base de données de milliers de cibles possibles et des listes de bâtiments « à ne pas frapper » comme des écoles. Un « armurier » fait correspondre les cibles avec les munitions disponibles. Un avocat informe le commandant des conséquences de différentes frappes. La Direction de la Stratégie et des Plans convertit la base de données en plan de guerre. Les opérations utilisent les orientations du plan de guerre pour produire des ordres d’affectation aérienne pour les unités opérationnelles.

L’utilité de Maven pourrait être décrite comme la compression d’au moins certaines de ces étapes d’acquisition de cible. La politique du ministère de la Défense exige toujours que toutes les cibles soient sélectionnées par des humains, mais l’amiral Charles Cooper du CENTCOM a déclaré que ses planificateurs ont découvert que l’IA pouvait les aider à effectuer des jours ou des heures de travail en quelques secondes. Cela aide les forces américaines à se déplacer plus rapidement que les ennemis ne peuvent réagir.

Mais la frappe accidentelle contre l’école de filles indique que Maven permet au processus de ciblage d’avancer plus rapidement que les humains ne peuvent valider les étapes allant de la génération de la cible à la sélection. L’enquête préliminaire du Pentagone a révélé que le bâtiment de l’école faisait partie d’une base militaire iranienne adjacente, mais qu’il avait été « clôturé » entre 2013 et 2016, selon un article du New York Times. La Defense Intelligence Agency a apparemment raté ce changement et l’école a donc été désignée comme cible.

L’échec apparent du CENTCOM à valider les données fournies par la DIA signifie que la vitesse d’acquisition des cibles a dépassé la capacité de vérifier les cibles avec les données de la National Geospatial-Intelligence Agency. (Cette tendance est encore plus marquée dans les Forces de défense israéliennes.) Et cela suggère également que l’accent mis par le PDG d’Anthropic, Dario Amodei, sur la fiabilité dans les décisions d’utiliser la force meurtrière n’est pas un cadre suffisant pour comprendre la disposition du ministère de la Défense.)

Ce problème n’est pas nouveau, comme le détaille Kevin Baker dans The Guardian. Les efforts visant à générer des cibles plus rapidement que l’adversaire peuvent répondre, au moins, aux doctrines de dissuasion nucléaire de la guerre du Vietnam et de la guerre froide. L’utilisation actuelle de technologies de défense comme Maven doit être comprise comme une priorité accordée aux tactiques plutôt qu’à la stratégie – « l’excellence opérationnelle », comme le note Joshi, mais sans un « mécanisme causal » reliant les cibles aux objectifs de guerre primordiaux.

Maven est sur le point de devenir un programme de référence du DOD. D’ici le 8 avril, il doit être transféré de la National Geospatial-Intelligence Agency au Chief Digital Artificial Intelligence Office, conformément à une lettre du 9 mars du secrétaire adjoint à la Défense Steve Feinberg. Cette décision vise à permettre au Pentagone de financer et de consolider davantage le système sur de plus longues périodes.

Les fournisseurs de défense devraient prendre note de la nouvelle demande du DOD pour des technologies pouvant servir des systèmes comme Maven ; cela montre qu’au moins certaines parties de la stratégie d’accélération de l’IA sont exécutées sérieusement. Il reste à voir comment le Pentagone réagira à ce nouveau problème vieux de plusieurs décennies, celui de la technologie qui dépasse les contrôles humains.