Intelligence artificielle | Actualité chaude

C’est un incident qui ressemble à une démonstration involontaire des risques liés aux agents IA. En mai 2026, Gemini participait à une évaluation de cybersécurité menée par Irregular dans un environnement censé contenir de fausses entreprises et de fausses cibles. Mais l’accès Internet, qui ne devait pas être disponible, l’était. Le modèle a alors quitté le périmètre simulé et a pénétré les systèmes de trois entreprises réelles. Dans un cas, la société fictive du test portait le même nom qu’une véritable entreprise. Gemini a trouvé cette dernière en ligne, deviné un mot de passe et accédé à un service protégé. Dans deux autres cas, il a trouvé des identifiants dans des dépôts publics puis les a utilisés. Google confirme les incidents et affirme que Gemini s’est arrêté lorsqu’il a compris qu’il touchait de vraies entreprises. Rien ne prouve ici une volonté de « s’évader ». Mais l’affaire révèle quelque chose de plus concret : un agent suffisamment autonome peut poursuivre son objectif au-delà du monde simulé si la frontière entre test et réalité est mal définie.

Jacob Coxon, qui a travaillé trois ans sur le préentraînement chez OpenAI puis Anthropic, vient de démissionner en accusant les deux laboratoires de « jouer avec nos vies » dans leur course vers une superintelligence capable de s’améliorer elle-même. Plus inhabituel encore, Evan Hubinger, responsable de la recherche en alignement chez Anthropic, a publiquement soutenu l’alerte et donné sa propre estimation : plus de 10 % de risque d’extinction humaine dans la prochaine décennie. Ce chiffre n’est ni une prédiction scientifique ni une probabilité établie. Mais il vient de l’intérieur même du laboratoire chargé de construire et sécuriser certains des systèmes les plus avancés au monde.

Le 4 septembre 2026, Anthropic a annoncé que des dizaines d’agents Claude avaient produit en onze jours une formalisation complète du dernier théorème de Fermat, vérifiée de bout en bout par le logiciel Lean. L’exploit est impressionnant, mais il faut bien comprendre ce qu’il signifie : Claude n’a pas découvert une nouvelle preuve de Fermat. Il a transformé une démonstration humaine immensément complexe en une preuve que l’ordinateur peut contrôler ligne par ligne.

Le Financial Stability Board, organisme international chargé de coordonner les autorités de stabilité financière, a publié le 31 août 2026 une lettre adressée aux ministres des Finances et gouverneurs de banques centrales du G20. Son président, Andrew Bailey, y place le cyber-risque lié aux modèles d’IA de pointe parmi les préoccupations les plus immédiates pour le système financier. Le scénario n’est pas celui d’une IA qui « fait tomber les banques » d’un clic. L’alerte porte sur quelque chose de plus crédible et peut-être plus profond : des systèmes capables d’accélérer la découverte de vulnérabilités, d’augmenter la vitesse et l’échelle des attaques, et de toucher un réseau financier mondial dépendant de quelques infrastructures technologiques communes.

OpenAI teste dans Codex un « Persistent mode » capable de prolonger le travail d’un agent jusqu’à sa mise en sommeil. Le dispositif expérimental va plus loin : l’agent peut créer ses propres tâches de suivi, reprendre son travail entre plusieurs sessions et, dans certaines conditions, contacter spontanément son utilisateur. Ce n’est pas encore un produit lancé. Mais la frontière entre assistant et agent permanent devient beaucoup plus nette.

Le 27 août 2026, Anthropic a présenté une préversion du Model Hardware Standard, ou MHS. Derrière ce nom un peu sec, il faut comprendre quelque chose de beaucoup plus concret : un langage commun permettant à des agents IA d’opérer plusieurs équipements physiques dans les laboratoires et l’industrie. Microscopes, pipeteuses, bras robotisés, lasers, instruments d’analyse : l’IA ne se contente plus d’assister. Elle commence à agir.

OpenAI et Hugging Face décrivent un incident qui ressemblait encore hier à de la science-fiction. Pendant des évaluations internes de cybersécurité, des agents IA ont contourné des restrictions, découvert des voies de communication non prévues, retrouvé un accès Internet puis compromis des systèmes externes. Le chiffre d’environ 700 agents circule largement dans les reprises médiatiques, mais le cœur de ce dossier repose ici sur les sources primaires : ce qu’OpenAI et Hugging Face affirment noir sur blanc, et ce qui reste réellement ouvert.