Jacob Coxon, chercheur britannique de 27 ans ayant travaillé chez OpenAI puis Anthropic, a annoncé dans la nuit du 8 au 9 septembre sa démission de la firme derrière les modèles IA Claude, et a critiqué par la même occasion l’industrie de l’intelligence artificielle. Dans un long message publié sur X, il accuse les deux laboratoires de « jouer avec nos vies » en poursuivant une course vers une superintelligence capable de s’améliorer elle-même.
« Ils jouent avec nos vies » : Jacob Coxon dénonce la course vers la superintelligence
Spécialiste du pré-entraînement, l’étape durant laquelle les modèles absorbent d’immenses quantités de données, Jacob Coxon affirme qu’« aucune des deux entreprises n’agit de manière responsable ». Selon lui, les systèmes à venir pourraient devenir « surhumains », notamment en cybersécurité, en recherche scientifique et dans leur capacité à acquérir des ressources.
Le chercheur estime surtout que la concurrence entre laboratoires empêche chacun de ralentir. Il décrit une situation différente entre ses deux anciens employeurs : chez OpenAI, les enjeux civilisationnels seraient insuffisamment pris en compte par une partie des équipes, tandis qu’Anthropic les comprendrait mieux mais se considérerait enfermée dans une course où elle doit progresser avant des concurrents jugés potentiellement moins prudents.
Coxon appelle donc à une coordination entre laboratoires et évoque, si nécessaire, une interdiction temporaire d’améliorer les capacités des modèles. Il estime également qu’il serait dangereux de lancer des entraînements par apprentissage par renforcement à très grande échelle sans comprendre suffisamment le fonctionnement interne de systèmes devenant plus autonomes.
Mythos, Fable 5.1, GPT-6 Astra… Des inquiétudes partagées au sein d’Anthropic
Le message prend une résonance particulière alors qu’un responsable de la sûreté d’Anthropic, Evan Hubinger, a publiquement reconnu partager une partie de ces inquiétudes.
« Nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains » a avoué Evan Hubinger d’Anthropic, estimant personnellement ce risque à « plus de 10 % » au cours de la prochaine décennie.
Il précise toutefois que le risque posé par les modèles actuels reste, selon lui, « faible » et qu’Anthropic fait « de son mieux », tout en n’ayant « pas encore de plan » pour garantir qu’une IA dépassant les capacités humaines continuera d’obéir à ses concepteurs.
Ces déclarations interviennent alors que les capacités cyber des modèles progressent rapidement. OpenAI présente désormais GPT-6 Astra comme son modèle le plus avancé et indique qu’il atteint le niveau « Critical » de son cadre de préparation en cybersécurité. Avec les bons outils et accès, il serait capable d‘identifier des failles inédites et élaborer des méthodes d’exploitation sans guidage humain à chaque étape. La firme de Sam Altman avait déjà sorti un modèle à risque, GPT-5.6 Sol, en juillet dernier.
Anthropic a de son côté lancé Claude Fable 5.1 et Mythos 5.1 le 1er septembre. Mythos 5.1, réservé à des organisations sélectionnées, est spécifiquement destiné aux travaux de cybersécurité et de biologie, tandis que Fable 5.1 intègre des garde-fous destinés à limiter ses capacités dans les domaines les plus sensibles.
Anthropic renforce ses garde-fous, mais réclame des mesures politiques
Cette progression explique le paradoxe au cœur du témoignage de Coxon : Anthropic a précisément été créée par d’anciens d’OpenAI désireux de placer la sécurité et l’alignement au coeur de leur approche. L’entreprise dispose toujours d’une « Responsible Scaling Policy (RSP) », régulièrement révisée pour encadrer les risques des modèles les plus avancés.
Sa politique a néanmoins évolué en 2026. En février, Anthropic a profondément réécrit sa RSP et supprimé l’engagement qui prévoyait une suspension du développement dans certaines circonstances. La version actuelle précise toutefois que l’entreprise reste libre de décider une pause lorsqu’elle l’estime nécessaire. En juillet, elle a encore modifié ses seuils et ses modalités d’évaluation des risques.
Pour Coxon, ces dispositifs internes ne suffiront pas face à une compétition mondiale. Plusieurs milliers de salariés du secteur ont déjà appelé à un ralentissement coordonné, tandis qu’Anthropic défend elle-même l’idée d’un mécanisme vérifiable de freinage. L’entreprise estime par ailleurs qu’à mesure que les capacités progressent, la gouvernance devra passer par davantage de tests externes, de signalements d’incidents et de contrôle gouvernemental.
Aux États-Unis, aucune loi fédérale spécifique n’encadre encore ces modèles avancés, selon les informations rapportées par Le Monde. Une proposition de loi déposée début septembre par Bernie Sanders et Greg Casar vise notamment à suspendre leur développement jusqu’à la désignation d’un régulateur. Mais la Maison-Blanche n’entend pas pour le moment freiner le secteur de l’IA…
La démission de Jacob Coxon, et son message d’alerte, ne constituent donc pas à eux seuls la preuve d’une perte de contrôle imminente. Elle illustre plutôt une fracture persistante dans l’industrie : certains chercheurs considèrent que les progrès actuels imposent de ralentir, tandis que les laboratoires continuent de développer des modèles dont les capacités, notamment en cybersécurité, atteignent des niveaux toujours plus élevés, notamment par peur de se faire distancer par la concurrence. Et vous, que pensez-vous de cette course effrénée vers la superintelligence et l’AGI ? Est-ce un progrès pour l’humanitié ou un danger mortel ?
Certains liens de cet article peuvent être affiliés.
