Une crise explosive au cœur de l’intelligence artificielle
En l’espace de quelques jours seulement, l’ensemble du secteur de l’intelligence artificielle a révélé à quel point la question de l’usage militaire de l’IA peut être explosive. Les statistiques de désinstallation de ChatGPT ont bondi de près de 300 % après qu’OpenAI a signé un contrat controversé avec le Département de la Défense américain.
Tout a commencé par un refus : celui d’Anthropic. Le créateur du modèle Claude s’est vu proposer une collaboration avec le Pentagone, mais a choisi de ne pas franchir ses propres lignes éthiques. Résultat : une mise sur liste noire, la perte de contrats lucratifs et un transfert inattendu d’utilisateurs vers des applications concurrentes.
Pour beaucoup, cela peut sembler une affaire lointaine, purement américaine. Pourtant, les décisions prises aujourd’hui à Washington et dans la Silicon Valley influenceront directement les fonctionnalités des applications sur nos smartphones dans les années à venir. Des experts de l’Université d’Oxford et de think tanks américains alertent sur le fait que des entreprises privées ne devraient pas établir seules les limites éthiques de technologies capables d’affecter la vie de milliards de personnes.
Comment Anthropic a refusé le Pentagone et s’est retrouvé sur liste noire
Tout a débuté par une offre adressée à Anthropic, la société derrière le modèle Claude. Le Pentagone souhaitait intégrer leur intelligence artificielle dans des systèmes capables d’analyser en temps réel d’immenses volumes de données — des images satellites aux rapports de renseignement, en passant par les données de capteurs sur le terrain de bataille. L’objectif était d’accélérer le processus décisionnel des commandants lors des opérations de combat.
Anthropic a cependant fixé deux limites éthiques absolument non négociables. Première limite : le modèle Claude ne peut pas soutenir la création de systèmes d’armement entièrement autonomes, dans lesquels la machine déciderait seule de l’emploi de la force contre des êtres humains. Deuxième limite : le système ne peut pas être utilisé pour la surveillance de masse de citoyens ordinaires sur le territoire américain.
Ces conditions se sont avérées inacceptables aux yeux des représentants militaires. Selon les médias, l’administration de Donald Trump aurait placé Anthropic sur la liste noire des entités sans accès aux marchés publics. La société s’est forgé une réputation d’entreprise « inflexiblement éthique », mais a perdu un marché potentiellement très lucratif.
La situation se complique davantage : selon des sources proches du Pentagone, le modèle Claude serait malgré tout utilisé dans des opérations liées aux tensions entre les États-Unis, Israël et l’Iran, bien que la société soit formellement exclue des appels d’offres. Le Département de la Défense n’a pas commenté ces informations, laissant de nombreuses questions sans réponse.
Ce qu’OpenAI a signé et pourquoi cela a mis les utilisateurs en colère
Lorsqu’Anthropic s’est retirée, OpenAI est entré en scène. Un vendredi, un contrat est signé qui comble de fait le vide laissé par la concurrente. ChatGPT est orienté vers des applications de défense, tandis que les détails du contrat demeurent en partie confidentiels.
Sam Altman, PDG d’OpenAI, publie le lendemain une déclaration affirmant que les mesures de sécurité négociées seraient même plus strictes que celles qu’Anthropic était prête à accepter. Ce communiqué était censé protéger la réputation de l’entreprise, mais il est apparu aux yeux de beaucoup comme une tentative de profiter du « principe » de son rival.
La réaction des utilisateurs est immédiate. Les données de la société d’analyse Sensor Tower révèlent que le taux quotidien moyen de désinstallation de l’application ChatGPT a augmenté de 295 % par rapport aux niveaux habituels. Sur les réseaux sociaux, les accusations de trahison des valeurs déclarées et de capitulation face aux marchés militaires se multiplient. Les commentaires déçus de développeurs et d’universitaires utilisant ChatGPT à des fins de recherche envahissent les discussions en ligne.
Le lundi suivant, Altman endosse le rôle du « coupable qui reconnaît son erreur ». Il déclare publiquement que la communication avait été précipitée et peu réfléchie, et que l’ensemble de l’affaire avait eu un goût purement opportuniste. Il annonce également des modifications au contrat avec le Département de la Défense. En quelques jours à peine, ChatGPT s’est transformé dans l’imaginaire collectif, passant du symbole de l’« IA responsable » à celui d’un outil associé à la machine militaire.
Les modifications concrètes qu’OpenAI s’est engagé à apporter au contrat
Sous la pression de l’opinion publique et d’un boycott croissant, OpenAI introduit dans le contrat des dispositions très précises. Les plus importantes concernent la surveillance des citoyens américains et l’accès des services de renseignement aux modèles.
Les modifications substantielles comprennent :
- une interdiction explicite d’utiliser sciemment les systèmes OpenAI pour surveiller les résidents des États-Unis
- le blocage de l’accès automatique à des agences de renseignement comme la NSA, sans modification contractuelle séparée et explicitement convenue
- une déclaration stipulant que l’intelligence artificielle doit assister les analystes, sans se substituer à l’être humain dans les décisions relatives à l’emploi de la force
- une obligation de rendre compte de manière transparente des cas d’utilisation abusive potentielle des systèmes
- le droit pour OpenAI de suspendre la fourniture de services en cas de violation des limites convenues
- un audit indépendant sur l’utilisation de la technologie tous les six mois
- un accès restreint aux modèles les plus récents pour les applications à potentiel léthal
Il s’agit d’un rapprochement partiel avec l’approche d’Anthropic, mais la différence reste évidente. Anthropic a préféré renoncer aux marchés publics plutôt que de céder aux attentes du Pentagone. OpenAI a choisi d’ajouter des restrictions tout en maintenant la collaboration. Selon les analystes du Center for American Progress, ces garanties supplémentaires pourraient toutefois s’avérer insuffisantes en l’absence d’un contrôle indépendant de leur respect.
Pourquoi les forces armées misent si intensément sur l’intelligence artificielle
Derrière toute cette affaire se cache une vision plus large des armées modernes. Les plateformes développées notamment par Palantir intègrent déjà aujourd’hui des données provenant de nombreuses sources — capteurs, drones, satellites, rapports de renseignement — en les présentant aux commandants sous forme de recommandations déjà élaborées.
Selon les représentants du secteur, ces systèmes permettent d’analyser des milliers d’images satellites plus rapidement que des dizaines d’analystes humains, de prédire les mouvements des unités ennemies sur la base de modèles tirés de conflits antérieurs, et d’identifier des cibles avec une précision supérieure aux méthodes traditionnelles. Le général Roger Cloutier du commandement américain en Europe a récemment déclaré que l’intégration de l’intelligence artificielle dans les systèmes de combat est aussi importante que l’introduction de la machine à vapeur dans l’industrie.
C’est précisément là que réside la tension fondamentale. L’intelligence artificielle générative est sujette aux erreurs, encline aux « hallucinations » et peut produire des informations fausses avec une conviction absolue. Dans les applications civiles, le pire scénario est une réponse embarrassante dans un chat. Sur le champ de bataille, cela pourrait signifier la mort de personnes innocentes. Les chercheurs du Massachusetts Institute of Technology avertissent que la pression psychologique exercée sur les commandants pour qu’ils acceptent les recommandations de l’IA dans des situations d’urgence temporelle peut être considérable.
Comment la crise de ChatGPT a provoqué une croissance inattendue pour Claude
La tempête médiatique a produit un effet immédiat sur le marché. Tandis que les utilisateurs désinstallaient ChatGPT, beaucoup cherchaient une alternative. Le choix le plus naturel s’est avéré être précisément Claude — le modèle dont le créateur avait ouvertement affronté le Pentagone.
Les données de l’App Store montrent que l’application d’Anthropic a bondi à la première place des classements de téléchargements le samedi et y est restée au moins jusqu’au jeudi. Les médias américains rapportent que Claude a dépassé ChatGPT en nombre de nouvelles installations, un scénario qui semblait peu réaliste quelques semaines auparavant. Les analystes de marché estiment qu’Anthropic a acquis en une seule semaine autant de nouveaux utilisateurs qu’il en aurait normalement atteint en trois mois de marketing intensif.
Sur le web, une campagne organisée de pression sur OpenAI prend de l’ampleur. Les hashtags CancelChatGPT et QuitGPT deviennent viraux, invitant à abandonner définitivement les produits de l’entreprise tant qu’elle collaborera avec le Département de la Défense. Certains groupes militants interprètent cette situation comme un test permettant de vérifier si la pression des utilisateurs peut véritablement modifier le comportement des géants de l’IA.
La crise d’image d’OpenAI a de fait offert à Anthropic une campagne marketing gratuite fondée sur un seul message : « nous n’avons pas cédé ». Dans les communautés technologiques de Reddit et Hacker News, des discussions enflammées sur l’éthique de l’utilisation des outils d’IA ont éclaté, de nombreux développeurs annonçant publiquement leur migration vers Claude pour leurs projets.
Les utilisateurs ordinaires devraient-ils s’intéresser aux contrats militaires de l’IA ?
Pour l’utilisateur lambda de ChatGPT ou de Claude, cet enchevêtrement militaire peut sembler très éloigné de ses préoccupations. Pourtant, les décisions prises aujourd’hui à Washington et dans la Silicon Valley se répercuteront directement sur les fonctionnalités que nos applications auront dans quelques années.
Si les modèles de langage sont « entraînés » sur des données issues d’opérations militaires, ils pourraient mieux comprendre les analyses stratégiques, mais acquérir également les biais propres à ce secteur. Si les entreprises privées constatent que les contrats de défense résistent mieux au boycott que les abonnements grand public, elles privilégieront plus facilement la sécurité financière aux contraintes éthiques.
Mariarosaria Taddeo de l’Université d’Oxford souligne que l’éviction du marché du acteur le plus prudent — Anthropic — fragilise la sécurité de l’ensemble de l’écosystème. Les experts du Center for American Progress écrivent explicitement que le différend entre le Pentagone et Anthropic, suivi du contrat avec OpenAI, constitue un signal adressé au Congrès pour qu’il s’attelle enfin à réguler l’usage de l’IA par l’armée.
La tension entre la vitesse de l’innovation d’un côté, et la stabilité et la sécurité de l’autre, devient de plus en plus palpable. Les modèles génératifs évoluent à une cadence vertigineuse, mais leur tendance aux hallucinations dans les domaines militaire, médical ou financier peut avoir des conséquences dramatiques. La frontière entre « assistant » et « co-décideur » commence à se brouiller — et c’est précisément maintenant que se livre la bataille sur les limites que l’intelligence artificielle ne devrait pas franchir.
