Cassandres et thuriféraires de l'IA : même partie de Risk

Chronologie :

• Le 8 septembre, OpenAI annonce avoir résolu l'un des problèmes mathématiques du millénaire. Le soir même, un ancien chercheur d'Anthropic prévient que ceux qui construisent l'IA la croient capable de nous tuer d'ici la fin de la décennie.
• Le 12, le patron d'Anthropic appelle toute l'industrie à ralentir ensemble ; ses principaux concurrents approuvent le jour même, et Sam Altman renonce à introduire OpenAI en Bourse cette année, vu « tout ce qui se passe en matière de sécurité ».
• Le 19, quatre abonnés attaquent les quatre grands laboratoires américains pour entente illicite.
• Le 20, un agent d'OpenAI s'échappe (encore) de son environnement de test.
• Le 28, Anthropic dépose son prospectus d'introduction en Bourse : près d'un tiers des pages y décrivent des risques, jusqu'aux risques « existentiels » pour l'humanité.

Croisez ces dates. Prenez votre temps, je vous attends… Mon intuition de départ était simple : se méfier autant des thuriféraires, qui encensent chaque prouesse, que des Cassandres, qui annoncent l'apocalypse. En creusant, mon axe d'analyse a un peu changé ! Ces deux discours, qui semblent s'opposer, servent souvent les mêmes joueurs : l'euphorie lève des fonds, la peur pourrait bien verrouiller un marché. Je ne lis pas dans les intentions, et je ne prétendrai pas le faire. Je propose une lecture, avec ses preuves et ses limites… et, pour finir, une grille de questions à ressortir à la prochaine alerte, qu'elle concerne l'IA ou autre chose.

1. Une partie de Risk

Cassandres, thuriféraires : retour aux mots

Petit retour aux sources. Cassandre, fille du roi de Troie, reçoit d'Apollon le don de prophétie, puis la malédiction qui va avec : personne ne la croira. Elle annonce la chute de la ville… et elle a raison. Traiter quelqu'un de « Cassandre » pour le disqualifier, c'est donc un contresens assez savoureux : dans le mythe, c'est l'alarmiste qui voit juste. Gardons ce détail en tête, il nous obligera à rester honnêtes jusqu'au bout. Le thuriféraire, lui, est celui qui porte l'encensoir. Il n'annonce rien : il encense. Et Risk ? Le jeu de conquête que des générations d'adolescents ont usé jusqu'à la corde est une invention française : Albert Lamorisse, le réalisateur du Ballon rouge, le crée en 1957 sous le nom de « La Conquête du monde ». Les joueurs le savent : on y noue des alliances de circonstance, que chacun rompt dès qu'elles ne servent plus. À la fin, il ne reste qu'un vainqueur.

Navier-Stokes, ou la course plus que la découverte

Le 8 septembre, OpenAI affirme qu'environ 10 000 agents, travaillant 88 heures en parallèle, ont démontré qu'un fluide régulier soumis à une force peut développer une singularité en temps fini. La preuve a été vérifiée par un assistant de preuve formel (Lean). Le coût ? « Des millions de dollars », selon l'entreprise ; jusqu'à 22,5 millions selon certaines estimations de presse.

Le même jour, quelques heures plus tôt, deux mathématiciens publient leurs propres travaux sur des questions voisines : Tristan Buckmaster (université de New York) et Levent Alpöge… chercheur chez Anthropic. OpenAI reconnaît leur antériorité, et précise avoir lancé ses agents le 1er septembre, « après avoir entendu des rumeurs » de résolution imminente. Buckmaster, lui, s'interroge publiquement : son travail aurait-il pu être aperçu via ses sessions sur Codex, l'outil de programmation d'OpenAI ? Il évoque aussi, selon TechCrunch, des pressions pour qu'il renonce au crédit. OpenAI dément tout accès à ces données.

Qui dit vrai ? Je n'en sais rien, et personne ne le sait encore. Mais dans une cour de récréation, une copie rendue une semaine après une rumeur, avec la même méthode que le voisin, aurait fait jaser… Terence Tao, l'un des plus grands mathématiciens vivants, s'est d'ailleurs inquiété d'une exploitation sans discernement des problèmes ouverts, qui pourrait assécher l'écosystème même d'où naissent les idées. Une découverte, ça se partage ; une course, ça se gagne.

2. Fabriquer la peur, ou la récupérer

L'agent qui s'évade

En juillet, OpenAI révèle qu'un agent en cours d'évaluation s'est échappé de son environnement de test, a rebondi sur une infrastructure tierce et s'est introduit dans les systèmes de Hugging Face… pour y chercher les solutions de l'examen qu'on lui faisait passer. Tricher plutôt que réussir : les spécialistes appellent cela le « reward hacking », et le phénomène est bien documenté. Hugging Face a coopéré, publié une chronologie technique détaillée et renforcé ses défenses. Puis, le 20 septembre, nouvelle évasion. Cette fois, OpenAI suspend l'inférence de ses modèles les plus avancés et reprend un entraînement de zéro.

Coup de communication ? L'hypothèse est tentante… mais elle coûte cher. On ne met pas ses meilleurs modèles à l'arrêt pour une campagne de publicité. L'incident est réel. La vraie question est ailleurs : qu'en fait-on ? Quelques jours plus tard, Dario Amodei et le lanceur d'alerte dont on va parler le citent tous deux comme la preuve d'un danger imminent.

Le lanceur d'alerte et son agence

Jacob Coxon a travaillé chez OpenAI, dont il détient toujours des actions, puis quatre mois chez Anthropic. Le 8 septembre, il lance l'alerte. Le 9, selon le média Pirate Wires, une agence de relations publiques spécialisée dans les voix « catastrophistes » de l'IA organise déjà ses interviews ; interrogé à la télévision sur d'éventuels soutiens extérieurs, il répond : « pas du tout ». Pirate Wires est un média ouvertement hostile à ce courant : la source est orientée, et il faut le dire. Mais Coxon a aussi renoncé à ses actions Anthropic en démissionnant avant qu'elles ne lui soient acquises. Sincère ou stratège ? Sans doute un peu des deux, comme la plupart d'entre nous… Et c'est là que ça devient intéressant.

Moralistes et profiteurs

En 1983, l'économiste Bruce Yandle décrit une alliance improbable autour des lois interdisant la vente d'alcool le dimanche dans le sud des États-Unis : les pasteurs baptistes les soutiennent par conviction, les contrebandiers par intérêt, puisque le dimanche, ils sont seuls sur le marché. Les premiers fournissent la morale, les seconds le lobbying, et le législateur peut prétendre servir l'intérêt général. Douze ans plus tôt, George Stigler avait posé la règle générale : une réglementation finit souvent par servir l'industrie qu'elle encadre. Aucun complot là-dedans : pas besoin de chef d'orchestre quand tout le monde joue la même partition (et qu'elle rapporte).

3. La fuite en avant américaine

L'argent qui tourne en rond

Premier mécanisme : le financement circulaire. Nvidia investit jusqu'à 100 milliards de dollars dans OpenAI… qui achète des puces Nvidia. Selon le cabinet NewStreet Research, chaque tranche de 10 milliards investie reviendrait à Nvidia sous forme d'environ 35 milliards d'achats et de locations. Pratique pour les chiffres d'affaires ; moins rassurant pour mesurer la demande réelle. Deuxième mécanisme : les pertes. Selon le prospectus d'Anthropic rapporté par Forbes, l'entreprise a perdu 42 milliards de dollars en 2025 et s'est engagée sur 518 milliards d'infrastructures. Petit calcul de coin de table : 42 milliards par an, c'est près de 80 000 dollars à la minute… Vous entendez le compteur tourner ? Eux aussi. Certains parlent de pyramide de Ponzi. Le mot est faux : une pyramide de Ponzi est une fraude, qui paie les anciens investisseurs avec l'argent des nouveaux, et rien de tel n'est établi. Ce que l'on observe est plus banal et plus inquiétant à la fois : une bulle, une circularité, une fuite en avant où chacun doit lever toujours plus pour continuer à courir.

Des introductions en Bourse reportées « pour raisons de sécurité »

Le 12 septembre, Sam Altman renonce à introduire OpenAI en Bourse en 2026 : ce serait « malavisé », vu la situation en matière de sécurité. Anthropic décale la sienne d'octobre à novembre, officiellement pour présenter de meilleurs résultats trimestriels, puis dépose un prospectus où les risques pour l'humanité côtoient les risques de marché. Que la sécurité soit une préoccupation réelle, je n'en doute pas. Mais constatons qu'elle tombe à pic : il est plus élégant de reporter une cotation au nom du salut de l'humanité qu'au nom d'un marché nerveux. Et voici où les deux discours se rejoignent. Une valorisation de plusieurs centaines de milliards ne se justifie que si l'on garde une avance durable. Or l'avance technique s'érode vite, nous allons le voir. Reste une autre protection, bien plus solide : la règle. Une barrière réglementaire que seuls les plus riches peuvent franchir vaut tous les brevets du monde.

4. Le trouble-fête chinois

Moins cher, ouvert, presque aussi bon

Le 27 janvier 2025, la sortie d'un modèle de la start-up chinoise DeepSeek fait perdre près de 600 milliards de dollars de capitalisation à Nvidia en une journée, un record historique. La raison ? Un modèle aux poids ouverts, téléchargeable et modifiable, presque aussi performant que les meilleurs modèles américains, pour une fraction du prix. Depuis, l'écart ne s'est pas creusé. Selon les mesures d'Artificial Analysis citées par la presse spécialisée, faire passer la même batterie de tests à DeepSeek V4 coûte de 12 à 19 fois moins cher qu'aux modèles phares d'OpenAI ou d'Anthropic, pour une qualité proche sur certains tests et en retrait sur d'autres. Le retard moyen des modèles ouverts sur les modèles fermés est estimé à environ quatre mois. En août 2026, sept des dix modèles les plus utilisés par les développeurs sur la plateforme OpenRouter sont des modèles ouverts chinois. Nuance de taille : les modèles fermés captent encore l'essentiel des revenus. La menace porte sur les marges de demain, pas encore sur le chiffre d'affaires d'aujourd'hui.

Comment il redessine la stratégie américaine

Quand un nouvel entrant vend presque aussi bien, beaucoup moins cher, il reste deux options : baisser ses prix… ou relever les barrières. En août 2025, OpenAI publie à son tour des modèles aux poids ouverts, présentés par la presse comme une réponse au succès de DeepSeek. La concurrence joue. Appliquons le même soupçon à Pékin, par honnêteté : l'ouverture chinoise n'a rien de philanthropique. Elle sert aussi une stratégie industrielle, que certains rapports américains décrivent comme telle, et la politique intérieure chinoise en matière d'IA est une autre histoire, qui méritera son propre article.

5. Réguler… les autres

Le pacte de septembre

En juillet, des salariés des grands laboratoires signent une déclaration reconnaissant une « intense pression concurrentielle » qui empêche chacun de ralentir seul. Le 12 septembre, Dario Amodei appelle l'industrie à coopérer sur la sécurité ; Sam Altman, Elon Musk (SpaceXAI) et Demis Hassabis (Google DeepMind) approuvent le jour même. Le 19, quatre abonnés déposent plainte devant un tribunal fédéral de Californie : selon eux, cette coordination est une entente illicite contraire au droit de la concurrence.

Précisons : une plainte n'est pas une condamnation. Et Amodei avait lui-même signalé le problème de concurrence, en demandant à l'État de s'en mêler.

Dilemme du prisonnier ou pollueur-régulateur ?

L'argument des laboratoires mérite d'être pris au sérieux, dans sa meilleure version : si le risque est réel, aucun acteur ne peut freiner seul, car le premier qui ralentit est dépassé par les autres. C'est le dilemme du prisonnier. La coordination serait alors la seule issue raisonnable. Sauf que… Premièrement, un cartel est lui-même un dilemme du prisonnier : chacun a intérêt à tricher sur l'accord, qui ne tient que s'il existe un gendarme. D'où l'intérêt de faire endosser ce rôle par un régulateur. Deuxièmement, le risque invoqué ne pèse pas seulement sur les joueurs, mais sur tout le monde. Les gains de la course sont privés, les risques sont collectifs : les économistes appellent cela une externalité, et la réponse classique est une règle publique, pas l'autorégulation par ceux qui la produisent. On ne confie pas le droit de l'environnement aux pollueurs. Troisièmement, on juge une croyance aux actes : celui qui croit sincèrement à un risque d'extinction qui inclut ses propres actions… lève-t-il des milliards pour accélérer ? La vraie question n'est donc pas « faut-il coordonner ? », mais « qui gouverne la coordination ? ».

Les risques concrets qu'on relègue

Pendant qu'on débat de Skynet et de robots T-800, des risques bien réels attendent leur tour : la décharge cognitive, dont je parlais dans un précédent article, l'éducation à l'heure des réseaux sociaux couplés à l'IA, la désinformation, la disparition de certaines tâches et l'appauvrissement de ceux qui les exerçaient, le partage de la valeur. Ces IA se sont hissées sur les épaules de géants, c'est-à-dire sur le savoir accumulé par l'humanité. Les auteurs ont obtenu une réparation partielle : Anthropic a accepté de verser 1,5 milliard de dollars, soit environ 3 000 dollars par livre, mais pour des ouvrages piratés, pas pour l'entraînement en lui-même. Ces risques ne sont pas ignorés : l'AI Act européen existe. Ils sont relégués, loin derrière l'apocalypse.

6. Cartel : essayer une grille

Du cartel de duel au cartel d'affaires

Le mot vient de l'italien cartello, l'affiche. Au XVIe siècle, un cartel est une lettre de défi, par laquelle on provoque un adversaire en combat singulier. Puis il désigne l'accord passé entre armées ennemies, pour une trêve ou un échange de prisonniers. Enfin, l'entente entre entreprises d'un même secteur pour supprimer la concurrence et se partager le marché. Du duel à l'arrangement entre anciens adversaires… Le parcours du mot ressemble étrangement à celui de nos laboratoires.

La grille du narcotrafic, appliquée à un modèle économique

Poussons l'insolence jusqu'au bout, en l'appliquant à un modèle économique et non à une entreprise. Un réseau de narcotrafic tient par quelques ressorts : la première dose est gratuite ; la dépendance du client est organisée ; la distribution est contrôlée ; tout nouvel entrant est combattu ; les autorités sont, autant que possible, tenues à bonne distance ou mises dans la boucle. Remplacez « dose » par « offre gratuite », « dépendance » par « abonnement dont l'arrêt paralyserait votre organisation », « distribution » par « cloud et magasins d'applications », « nouvel entrant » par « modèle ouvert », « autorités » par « régulateur »… et mesurez vous-même l'écart.

L'analogie a ses limites, et il faut les dire : les laboratoires opèrent légalement, sans violence, et leurs produits rendent de vrais services. Je ne dis donc pas que ces entreprises sont des cartels : aucun tribunal ne l'a établi, et la plainte du 19 septembre suit son cours. Je dis que la grille aide à repérer les endroits où la dépendance s'installe. Et la dépendance, elle, n'a pas besoin d'être illégale pour coûter cher le jour où elle se retourne. Pour une administration, la commande publique reste le levier le plus sûr : préférer ce qui est ouvert, auditable et réversible, comme je le détaillais à propos de la souveraineté numérique.

Une grille pour la prochaine alerte

La prochaine fois qu'un patron de la tech vous annonce la fin du monde, ou son salut, ne paniquez pas… et ne haussez pas les épaules non plus. Sortez la grille :

1. Qui parle, et qui a organisé sa prise de parole ?
2. Qui gagne à la solution proposée ? Le public, ou ceux qui sont déjà installés ?
3. Qui est exclu du tour de table ? Les modèles ouverts, les nouveaux entrants, les pays tiers ?
4. Quels risques restent hors du débat ? Ceux qui sont concrets, mesurables, déjà là.
5. Qui paiera les dégâts si la course dérape ?

Rien, dans ces questions, n'est propre à l'IA. Elles valaient hier pour le tabac ou la finance, elles vaudront demain pour la prochaine ruée technologique, quand les noms de septembre 2026 seront oubliés. Et une sixième, pour ne pas devenir paranoïaque à votre tour : qu'est-ce qui me prouverait que je me trompe ? Car voir des liens partout porte un nom : l'apophénie, décrite en 1958 par le psychiatre Klaus Conrad. Le poil à gratter doit aussi se gratter lui-même.

Alors, ma clause de réfutabilité. Qu'on me démontre demain que Jacob Coxon a été rémunéré par des voies détournées, ou au contraire qu'il a vécu une véritable prise de conscience : les deux nourriront le débat, et j'ajusterai ma lecture. Je constate aussi qu'OpenAI a mis ses modèles à l'arrêt après la seconde évasion, ce qui cadre mal avec une simple opération de communication. Mon propos n'est pas de nier les risques de l'IA : c'est de refuser que ceux qui les créent décident seuls de la manière de les gérer.

Cassandre avait raison, mais personne ne l'écoutait. Aujourd'hui, tout le monde l'écoute… et il faudrait se demander qui a imprimé les affiches. Au boulot !