Pharmakon

22 septembre 2025 : au moment où l’Assemblée générale des Nations Unies se réunit, plus de 200 personnalités éminentes lancent un “Global Call for AI Red Lines”. La coalition impressionne par sa diversité : dix lauréats du prix Nobel dont la biochimiste Jennifer Doudna et l’économiste Daron Acemoglu, des pionniers de l’intelligence artificielle comme Geoffrey Hinton et Yoshua Bengio, des figures politiques incluant l’ancienne présidente irlandaise Mary Robinson et l’ex-président colombien Juan Manuel Santos. Plus significatif encore, des employés de premier plan des géants technologiques ont signé — le cofondateur d’OpenAI Wojciech Zaremba, le scientifique principal de Google DeepMind Ian Goodfellow —, tandis que les PDG de ces mêmes entreprises, Sam Altman et Demis Hassabis, brillent par leur absence.

L’appel dresse un catalogue de menaces apocalyptiques : pandémies artificielles, chômage de masse, perte du contrôle humain sur des systèmes avancés. Les signataires exhortent les gouvernements à établir des interdictions claires d’ici fin 2026, invoquant l’urgence d’une régulation internationale. Face à l’opposition américaine prévisible, ils misent sur un consensus international croissant autour de la sécurité de l’IA.

Cette initiative, malgré son apparente gravité, révèle surtout les contradictions insurmontables de notre moment historique. L’absence des PDG — alors que leurs propres employés signent — expose la schizophrénie structurelle du secteur technologique : d’un côté des chercheurs conscients des périls, de l’autre des dirigeants engagés dans une course où ralentir équivaut à disparaître. Sam Altman, qui prétend œuvrer pour le salut de l’humanité mais n’apparaît pas parmi les signataires d’un appel pour des garde-fous minimaux, incarne parfaitement l’ambiguïté du techno-capitalisme : le profit prime sur toute autre considération, y compris la survie de l’espèce.

L’idée d’une régulation comparable à celle des armes nucléaires révèle une incompréhension fondamentale. Le nucléaire était contrôlable précisément parce qu’il était centralisé, étatique, avec des barrières techniques colossales — l’enrichissement d’uranium nécessite des infrastructures que seuls les États peuvent développer. L’intelligence artificielle, elle, est distribuée, privatisée, et ses barrières d’entrée s’effondrent quotidiennement — un étudiant peut désormais faire tourner un modèle de langage sur son ordinateur portable. Plus crucial encore : le nucléaire n’était pas directement profitable, tandis que l’IA constitue la poule aux œufs d’or du capitalisme de surveillance, générant des milliards de milliards de dollars de valeur. Demander au capital de brider volontairement sa source de profit la plus prometteuse relève de la pensée magique.

Le contexte politique rend cet appel encore plus dérisoire. Car nous assistons parallèlement à la fusion historique du techno-capitalisme et de l’autoritarisme, symbolisée par la réunion de septembre 2025 où Trump a rassemblé 33 leaders technologiques à la Maison Blanche, incluant 13 milliardaires dans ce qui fut décrit comme l’un des rassemblements les plus riches de l’histoire du pouvoir exécutif américain. Dans cette configuration, l’appel à l’ONU apparaît comme une bouteille à la mer institutionnelle : les États-Unis sous Trump rejettent explicitement toute régulation internationale, la Chine développe son IA selon ses propres priorités géopolitiques, l’Europe régule sans capacité technique propre, et les géants technologiques disposent de plus de pouvoir effectif que la plupart des États membres. L’ONU qui ne parvient pas à empêcher des génocides va-t-elle réguler Google et OpenAI ?

Cet appel fonctionne en réalité comme un mécanisme sophistiqué de déresponsabilisation. Pour les signataires, il permet de se placer du bon côté de l’histoire. Pour les entreprises, il démontre leur transparence (“vous voyez, même nos employés reconnaissent les risques”). Pour les gouvernements, il justifie l’inaction (“le problème est identifié, nous y travaillons”). Pendant ce théâtre d’ombres, le déploiement s’accélère, les investissements explosent, et la prolétarisation cognitive s’approfondit.

L’obsession pour des risques spectaculaires mais hypothétiques — pandémies artificielles, singularité technologique — occulte les dégâts massifs déjà en cours. La stratification ontologique qui fragmente la réalité en couches différenciées selon le pouvoir économique, où chaque classe accède à des niveaux différents de vérité. La prolétarisation massive des travailleurs cognitifs dont les savoirs sont automatisés. La destruction des circuits de vérification et du crédit social nécessaire à tout échange. L’accélération de la catastrophe écologique par la consommation énergétique délirante des centres de données. Ces dommages actuels ne nécessitent aucune intelligence artificielle générale pour advenir, ils sont le produit ordinaire du capitalisme.

Paradoxalement, cet appel possède une importance, mais pas celle qu’il prétend. Il documente la prise de conscience d’une fraction de l’élite technique, révèle les fractures internes du secteur, prépare le terrain juridique pour les futures batailles de responsabilité, et légitime par avance les mesures autoritaires qui seront prises “pour notre sécurité”. Les signataires pourront dire : nous avions prévenu.

Mais la vraie question n’est pas comment réguler l’IA mais comment sortir d’un système où la survie économique dépend de l’accélération technologique permanente. Le système court à sa perte, produisant simultanément l’insolvabilité généralisée par l’automatisation du travail et l’épuisement des ressources naturelles et culturelles qu’il consomme. Cet appel est le cri d’alarme de ceux qui voient le mur arriver mais ne peuvent imaginer changer de trajectoire car cela impliquerait de remettre en cause le capitalisme lui-même — socialiser l’IA, démocratiser la technique, sortir de la logique du profit.

Le tragique de notre époque tient dans cette conscience aiguë de la catastrophe couplée à une impuissance structurelle à agir. Nous savons parfaitement ce qui nous menace, nous avons 200 personnalités éminentes pour le dire, mais nous sommes incapables d’agir car l’action nécessaire est précisément ce que le système ne peut tolérer. Les historiens futurs, s’il en existe, regarderont probablement cet appel comme nous regardons les appels à la paix de 1914 : le témoignage pathétique d’une civilisation qui voyait l’abîme s’ouvrir mais ne pouvait s’empêcher d’y plonger, les yeux grands ouverts.​​​​​​​​​​​​​​​​