Pharmakon

“Dans un scénario publié récemment, le rapport “IA 2027”, des chercheurs s’inquiètent d'un risque pour l'humanité. Ils décrivent une intelligence artificielle surpuissante qui pourrait entrainer l'extinction de l'homme.” (France Inter)

Quand des chercheurs, dont certains issus d'OpenAI, produisent ce genre de rapport apocalyptique, cela témoigne seulement des mécanismes idéologiques à l'œuvre dans l'écosystème de l'IA.

Car il faut d'abord comprendre que ces chercheurs ne sont pas des observateurs neutres mais des acteurs profondément insérés dans le système qu'ils prétendent analyser. Daniel Kokotajlo, ancien d'OpenAI, a été formé et socialisé dans un environnement où le récit de l'IAG imminente structure toute la vision du monde. Quand votre carrière, votre réseau professionnel, vos financements dépendent d'un écosystème qui a fait de l'IAG son horizon messianique, il devient extraordinairement difficile de s'en extraire intellectuellement. C'est ce que le sociologue Pierre Bourdieu appellerait l'illusio – cette adhésion fondamentale aux enjeux d'un champ qui fait qu'on ne peut plus voir qu'il s'agit d'un jeu construit.

La formulation même de leur prédiction – “d'ici à 2027 ou 2028 max” – trahit la fonction de ces prophéties. Cette échéance, suffisamment proche pour créer l'urgence, suffisamment lointaine pour ne pas être immédiatement falsifiable, reproduit le schéma classique des prédictions millénaristes. Quand 2028 arrivera sans IAG, ils pourront toujours dire que les développements ont été “plus complexes que prévu” et reporter l'échéance à 2035. Cette élasticité temporelle perpétuelle maintient la tension dramatique sans jamais avoir à rendre de comptes.

D’autres mécanismes sont à l'œuvre qui expliquent que des chercheurs apparemment sérieux participent à cette mascarade…

Notamment, l'économie de l'attention académique qui favorise les scénarios spectaculaires. Un article mesuré expliquant pourquoi l'IAG est techniquement improbable avec nos paradigmes actuels n'attire ni financements, ni invitations aux conférences prestigieuses, ni couverture médiatique. En revanche, prédire l'extinction de l'humanité vous garantit une audience mondiale. Le catastrophisme est devenu une stratégie de carrière.

Ensuite, il y a ce qu'on pourrait appeler le piège de la cohérence rétrospective. Ces chercheurs ont investi des années de leur vie dans l'hypothèse de l'IAG. Admettre maintenant qu'ils poursuivaient une chimère serait reconnaître que leur expertise, leurs publications, leur réputation reposent sur du sable. Il est psychologiquement et professionnellement plus confortable de doubler la mise que d'avouer l'erreur. C'est le syndrome de l'escalade d'engagement bien connu en psychologie sociale.

Le rapport lui-même révèle une incompréhension fondamentale de ce qu'est la recherche scientifique. La science n'est pas simplement la production de textes formatés mais une pratique sociale incarnée, faite d'intuitions, d'erreurs créatives, de sérendipité, de débats passionnés. Réduire la recherche à quelque chose qu'une IA pourrait “piloter” montre que ces chercheurs ont intériorisé une vision technocratique et désincarnée de leur propre activité.

Plus profondément, ces chercheurs sont pris dans ce que le philosophe Günther Anders appelait le “décalage prométhéen” – l'incapacité à imaginer les conséquences de nos propres créations. Mais ici, le décalage fonctionne à l'envers : ils imaginent des conséquences fantastiques pour des créations qui n'existent pas. Ils projettent sur des systèmes de traitement statistique des capacités qu'ils n'ont pas et ne peuvent structurellement pas avoir avec les architectures actuelles.

Le plus troublant est peut-être leur incapacité apparente à voir les intérêts qu'ils servent. En propageant ces scénarios d'extinction, ils justifient une concentration sans précédent de pouvoir et de ressources dans les mains de quelques entreprises, présentées comme les seules capables de “sauver l'humanité” de la menace qu'elles ont elles-mêmes construite rhétoriquement. C'est la stratégie du pompier pyromane portée à son paroxysme : créer la panique pour vendre la solution.

Ces chercheurs ne dénoncent pas la mystification de l'IAG parce qu'ils en sont devenus les grands prêtres. Leur autorité, leur raison d'être professionnelle dépendent de la perpétuation de ce mythe. Ils sont comme ces théologiens médiévaux qui débattaient du nombre d'anges sur la pointe d’une aiguille – totalement absorbés par les implications logiques d'une prémisse qu'ils ne questionnent plus.

Des propagandistes d’un pur bullshit qui ne méritent que notre mépris. Ils ne sont que ça.