Par Timnit Gebrupage et Emily M. Benderpage − Le 22 Septembre 2026 − Source Technology Review
Stephanie Arnett/MIT Technology Review | Adobe Stock
Les derniers mois ont été remplis par un battage médiatique autour de l’IA. Fin avril, Anthropic affirmait que son modèle Claude Mythos était meilleur pour trouver les vulnérabilités logicielles que la plupart des experts en sécurité. Ensuite, nous avons eu l’incident de piratage Hugging Face par OpenAI, après quoi Anthropic (fièrement) et Meta (à contrecœur) ont divulgué des incidents similaires impliquant leurs modèles.
Cela a été suivi par une déclaration d’Anthropic disant que l’un de ses modèles avait fait une percée mathématique ; puis OpenAI a revendiqué sa propre percée mathématique. Plus récemment, l’ingénieur d’Anthropic, Jacob Coxon, est devenu viral en annonçant son départ de l’entreprise, affirmant que celle-ci et OpenAI “se dirigent tout droit vers une superintelligence qui peut s’auto-améliorer et jouent avec nos vies”.
Chacun de ces événements a été couvert par la presse, sans prendre de recul, répétant souvent les cadrages anthropomorphiques des entreprises—qui sont conçus pour représenter leur logiciel comme non seulement puissant mais à la base de « l’intelligence artificielle autonome ». Alors, que se passe-t-il vraiment ? Assistons-nous à un ensemble massif de percées technologiques qui changeront la civilisation, ou s’agit-il de pur marketing ?
Dans tous ces incidents, les déclarations tonitruantes de ces entreprises (présentées comme des mea culpa dans les affaires de piratage illicite) s’accompagnent d’une intense couverture médiatique. Mais, une fois que les experts des domaines concernés ont le temps d’examiner ce qui s’est passé, une histoire très différente en émerge, qui attire bien moins l’attention des médias.
En ce qui concerne les incidents de “piratage”, les experts en cybersécurité disent que l’histoire provient davantage de la négligence d’OpenAI et de son incapacité à adopter des pratiques de sécurité de base établies que de “modèles devenus voyous” ou « d’agents IA créant des civilisations ».
En ce qui concerne les résultats mathématiques, les mathématiciens qui ont d’abord été « stupéfaits » par le communiqué de presse d’OpenAI disant que son dernier chatbot, Astra, a résolu des problèmes qui « ont été étudiés, sans aucun progrès sur le résultat principal, pendant au moins une décennie » ont réalisé plus tard que les résultats n’étaient pas aussi « nouveaux qu’ils ne le paraissaient à première vue ». Depuis lors, les mathématiciens ont accusé l’entreprise d’inconduite en recherche et de plagiat, et ils ont répété qu’Astra n’avait pas fait un « saut intellectuel majeur ». Quelques semaines plus tard, OpenAI revendiquait sa propre percée mathématique. Deux jours auparavant, Tristan Buckmaster, professeur de mathématiques au Courant Institute de l’Université de New York, publiait une déclaration explosive suggérant qu’OpenAI avait volé le travail d’autres personnes et se l’était attribué à tort.
Les allégations de superintelligence autonome et dangereuse ne sont pas fondées sur de bonnes pratiques scientifiques ou techniques. Ce sont plutôt des récits basés sur les idéologies du transhumanisme, de l’eugénisme et des vœux pieux à propos de futurs humains numériques.
Cela vaut la peine de réfléchir aux raisons pour lesquelles il y a tant d’attention sur la programmation informatique et les mathématiques en tant que domaines d’application des grands modèles de langage et de la technologie connexe. Non seulement ils sont souvent élevés au sommet de la réussite intellectuelle humaine, mais ils impliquent des problèmes pour lesquels les réponses, une fois suggérées, peuvent être vérifiées. La première caractéristique aide les marchands de battage médiatique à vendre l’idée qu’ils construisent des machines à tout faire. La deuxième caractéristique rend les problèmes mathématiques et de codage plus faciles à régler pour les systèmes, car la réponse du système (séquences de mots probables ou morceaux de code informatique) peut être évaluée sans avoir à payer des vérificateurs pour regarder et annoter chacun d’eux.
Les mathématiciens en particulier ont mis en garde contre les entreprises qui utilisent leur domaine de cette manière. Une déclaration signée par des centaines d’entre eux indique qu’il existe “actuellement une forte incitation commerciale de la part de l’industrie technologique à surestimer les capacités de leurs produits” et demande aux décideurs politiques de “consulter des experts, y compris des mathématiciens, pour prendre des décisions politiques plutôt que de s’appuyer sur des communiqués de presse ou des rapports populaires de résultats mathématiques”.
Nous faisons écho à cet appel et notons que l’illusion de rapidité et d’urgence promulguée par les entreprises technologiques est également un stratagème pour égarer à la fois les décideurs et le public. Malheureusement, cela fonctionne parfois, comme avec la proposition de loi bien intentionnée mais finalement malavisée du sénateur Bernie Sanders visant à empêcher le développement d’une « superintelligence artificielle ».
Les décrire comme de la « superintelligence » ou des « modèles voyous » attribue la prise d’initiative aux produits plutôt qu’aux entreprises qui les construisent. Ce cadrage commercialise les produits de ces entreprises comme « surhumains » et, en même temps, aide les entreprises à échapper à la responsabilité de leurs actes.
Au lieu qu’OpenAI soit poursuivi pour avoir créé un logiciel malveillant qui a piraté une autre entreprise, les communiqués de presse, les organes de presse, les personnalités des médias et les législateurs se réfèrent à des “modèles voyous” comme s’ils agissaient par eux-mêmes. Au lieu que les chercheurs soient interrogés sur l’habitude de leurs entreprises de plagier le travail des universitaires ou d’utiliser les données des clients pour former des modèles sans consentement, l’imagination du public est redirigée vers des craintes quant à ce que l’avenir pourrait nous réserver à cause de l’arrivée de machines fictives superintelligentes.
L’industrie de l’IA a même suggéré que l’activisme populaire et bipartite contre les centres de données est une “distraction” pour détourner l’attention des tentatives de réglementation des machines imminentes, effrayantes et « surhumaines » que ces entreprises construisent. Selon l’industrie de l’IA, nous devrions être plus inquiets d’un dieu machine fictif que de la catastrophe climatique que ces centres de données exacerbent, de l’asthme dont souffrent ceux qui vivent à proximité, de la hausse des factures d’électricité du public qui les subventionne, ou de l’eau qui est redirigé pour les refroidir.
Nous pourrions faire mieux que de prendre des décisions basées sur leur marketing et capituler devant la pression de ces entreprises pour prendre ces décisions rapidement. La prise de décisions judicieuses, par les décideurs et les communautés, demande du temps pour entendre des experts indépendants et contextualiser les déclarations de ces entreprises. Le meilleur résultat possible de cet été de battage médiatique est que les décideurs et le grand public apprennent à respirer, à conserver leur scepticisme et à reconnaître ce genre de battage médiatique pour ce qu’il est, la prochaine fois que cela se passera.
Timnit Gebrupage et Emily M. Benderpage
Traduit par Wayan, relu par Hervé, pour le Saker Francophone.