« Nous n’avons pas de plan » : un chercheur quitte Anthropic et le responsable de l’alignement estime à plus de 10 % le risque d’extinction humaine

Jacob Coxon n’est pas un commentateur extérieur au monde de l’intelligence artificielle. Il explique avoir passé les trois dernières années à travailler sur le préentraînement chez OpenAI puis Anthropic.

Le 9 septembre 2026, sa démission devient publique avec une accusation exceptionnellement directe : selon lui, ni OpenAI ni Anthropic n’agissent de manière suffisamment responsable. Les deux laboratoires seraient engagés dans une course vers des systèmes capables de dépasser largement les humains et, à terme, de participer à leur propre amélioration.

Coxon emploie une formule qui résume sa rupture : ils « jouent avec nos vies ».

Il affirme également que les inquiétudes exprimées publiquement par certains dirigeants seraient plus prudentes que celles entendues à l’intérieur des laboratoires. Selon lui, des personnes directement impliquées dans la construction de ces systèmes prennent au sérieux la possibilité d’une catastrophe existentielle avant la fin de la décennie.

C’est une déclaration personnelle. Elle ne prouve pas qu’un tel scénario se réalisera. Mais elle est documentable, datée et prononcée par un chercheur ayant participé au développement de modèles de pointe.

La démission de Coxon aurait pu rester le témoignage alarmiste d’un chercheur quittant son entreprise. La réaction d’Evan Hubinger lui donne une autre dimension.

Hubinger dirige la recherche en alignement chez Anthropic. Son travail porte précisément sur la question centrale du dossier : comment faire en sorte qu’un système extrêmement puissant continue de poursuivre des objectifs compatibles avec les intentions et les intérêts humains ?

En réponse à Coxon, Hubinger a déclaré partager l’idée que l’intelligence artificielle pourrait représenter un risque existentiel. Il a donné son estimation personnelle : plus de 10 % de probabilité d’extinction humaine au cours de la prochaine décennie.

Ce chiffre doit être lu correctement. Il ne provient pas d’une expérience permettant de mesurer objectivement une probabilité d’extinction. Ce n’est pas « la probabilité officielle d’Anthropic ». C’est l’évaluation personnelle d’un spécialiste de l’alignement confronté quotidiennement à ces questions.

C’est précisément pour cette raison qu’elle est remarquable sans devoir être transformée en certitude.

La formulation de Hubinger est encore plus intéressante que son estimation chiffrée. Il reconnaît qu’Anthropic ne dispose pas aujourd’hui d’un plan permettant de résoudre l’alignement d’une future superintelligence et qu’il n’est pas clair que l’entreprise soit actuellement sur la trajectoire permettant d’en obtenir un.

Cela ne signifie pas qu’Anthropic ne fait rien.

L’entreprise dispose d’une Responsible Scaling Policy, publie des Risk Reports, finance des équipes spécialisées dans l’alignement, l’interprétabilité, le sabotage et la surveillance des modèles. Son rapport pilote sur les risques de sabotage concluait d’ailleurs que le risque provenant des modèles alors déployés était très faible, sans être absolument nul.

La contradiction apparente est justement le cœur du sujet : un laboratoire peut investir massivement dans la sécurité tout en reconnaissant qu’il ne possède pas encore la solution au problème ultime qu’il anticipe.

L’emballement serait facile : « Anthropic dit que Claude peut tuer l’humanité ». Ce serait faux.

Hubinger a explicitement précisé que le risque associé aux modèles actuellement déployés lui paraît faible. Son inquiétude concerne un stade futur : une superintelligence apparaissant grâce à un processus d’auto-amélioration récursive.

L’idée est simple à formuler et beaucoup plus difficile à évaluer. Une IA devient assez compétente pour contribuer fortement à la recherche en IA. Ses travaux permettent de créer une génération plus performante. Celle-ci devient encore meilleure pour améliorer la suivante. La boucle peut alors accélérer.

Le point de rupture hypothétique survient si la vitesse d’amélioration dépasse la capacité des humains à comprendre, tester et contrôler chaque nouvelle génération.

Nous n’en sommes pas là. La question est de savoir à quelle distance nous en sommes réellement.

Coxon décrit un mécanisme classique de course stratégique.

Un laboratoire peut considérer qu’un développement est dangereux tout en pensant qu’il serait encore plus dangereux de laisser un concurrent l’atteindre le premier. Chaque acteur se présente alors comme celui qui doit avancer précisément parce qu’il ne fait pas confiance aux autres.

Anthropic a fait de la sécurité une composante centrale de son identité publique. OpenAI publie également des travaux sur l’alignement et les risques des modèles de longue durée. Pourtant, les performances continuent d’augmenter et la compétition commerciale, scientifique et géopolitique reste intense.

Coxon estime que cette logique n’est plus acceptable et évoque la possibilité de mesures beaucoup plus contraignantes, pouvant aller jusqu’à une suspension temporaire de l’augmentation des capacités si une coordination internationale devenait nécessaire.

Ce choix est politique autant que technique. Qui aurait l’autorité pour imposer une pause ? À quels laboratoires ? Dans quels pays ? Et comment vérifier qu’un concurrent ne poursuit pas secrètement ses travaux ?

Le sérieux d’une enquête impose de ne pas confondre l’inquiétude d’experts avec un consensus scientifique.

Des chercheurs considèrent le risque existentiel comme suffisamment plausible pour justifier des mesures exceptionnelles. D’autres estiment que les scénarios de superintelligence auto-améliorante reposent encore sur trop d’hypothèses non démontrées et risquent de détourner l’attention de dangers déjà mesurables : cyberattaques, fraude, manipulation, désinformation, concentration du pouvoir, surveillance ou bouleversements du travail.

Même la date est inconnue. Personne ne sait démontrer qu’une superintelligence apparaîtra avant 2030, dans dix ans, dans cinquante ans ou jamais sous la forme envisagée.

L’intérêt du témoignage de Coxon et de la réponse de Hubinger n’est donc pas de régler le débat. Ils révèlent quelque chose de plus concret : une partie des personnes situées au plus près de la frontière technologique considère ces scénarios suffisamment sérieux pour modifier sa carrière ou annoncer publiquement des probabilités catastrophiques élevées.

Les avertissements sur l’intelligence artificielle existent depuis longtemps. Celui-ci possède une particularité.

Coxon ne dit pas seulement : « j’ai peur de l’IA ». Il affirme que les personnes qui la construisent connaissent ces scénarios et que la compétition les pousse malgré tout à avancer.

Hubinger ne répond pas en rejetant cette description comme une exagération. Il confirme son inquiétude tout en défendant les efforts d’Anthropic et en rappelant que les modèles actuels présentent un risque faible.

C’est cette tension qui mérite d’être documentée.

Nous avons donc simultanément un chercheur qui quitte la course, un responsable de l’alignement qui reste dans l’entreprise, et deux hommes qui semblent partager une inquiétude profonde tout en tirant des conclusions différentes sur la conduite à tenir.