Dans les premières années de la recherche nucléaire, certains scientifiques craignaient que l'ouverture des atomes ne déclenche une réaction en chaîne qui détruirait la Terre.

Une scène du film Oppenheimer de Christopher Nolan tourne autour de l'inquiétude de certains scientifiques du projet Manhattan, qui craignaient que le premier essai de la bombe atomique ne mette le feu à l'atmosphère terrestre.

L'histoire raconte qu'Edward Teller a évoqué cette possibilité pour la première fois en 1942. On ne sait pas si cette éventualité a été prise au sérieux, mais elle a suffisamment animé les scientifiques pour qu'ils fassent des calculs et concluent que l'immolation de la planète était "improbable".

Les craintes pyrotechniques de ce type sont toutefois antérieures de plusieurs décennies aux efforts sérieux déployés pour fabriquer des bombes nucléaires, et remontent à une époque où le craquage d'atomes semblait, pour beaucoup, relever de la pure science-fiction.

Bien que les analogies entre l'intelligence artificielle et les armes nucléaires puissent être exagérées, la façon dont cette préoccupation est passée de la spéculation à l'inquiétude peut nous enseigner des leçons sur les craintes qui entourent les technologies émergentes d'aujourd'hui.

Il y a longtemps, le naturaliste romain Pline l'Ancien a fait remarquer que, compte tenu de toutes les matières combustibles, c'est un miracle quotidien que le globe ne s'embrase pas. Mais pendant longtemps, tout le monde a supposé que, si les objets pouvaient brûler, les atomes dont ils étaient constitués étaient stables, solides et indestructibles. Lorsque, à l'aube des années 1900, Marie Curie a révélé au monde les secrets de la radioactivité, tout a changé du jour au lendemain.

Les découvertes de Curie ont démontré de manière inattendue qu'un réservoir d'énergie titanesque se cachait, enfermé, dans le sous-sol de la matière. En se désintégrant, les radioéléments libèrent cette richesse interne. Mais tous les atomes, pensait-on, contiennent de telles magnitudes. Ces révélations, remarquées en 1905 par le scientifique afro-américain C H Turner, étaient "iconoclastes".

Impliquant que la matière ordinaire - même le minerai du sous-sol - est bourrée d'énergie bouchonnée, elles ont immédiatement suggéré aux scientifiques que notre planète pourrait ressembler davantage à un "entrepôt" de dynamite qu'à une habitation saine.

Au début de l'année 1903, Frederick Soddy, l'un des fondateurs de la physique nucléaire, a écrit qu'il suffisait qu'un scientifique bricoleur tombe sur un "détonateur approprié" pour enflammer l'"entrepôt" par réaction en chaîne. Ces propos ont été tenus dans la conclusion d'un essai, alors qu'il atteignait un crescendo, tentant d'impressionner ses lecteurs.

• Trinitite : l'étrange gemme créée par la première explosion nucléaire de l'histoire

L'idée que les planètes puissent exploser remonte au siècle des Lumières, lorsque les astronomes ont commencé à chercher des explications à l'écart anormalement grand entre Mars et Jupiter : un gouffre béant manifestement rempli de débris. Néanmoins, aucune force connue ne peut faire éclater un corps planétaire. En 1903, Soddy émet l'hypothèse que la radioactivité pourrait changer la donne.

Peu de temps après les commentaires de Soddy, son partenaire de recherche Ernest Rutherford a fait des commentaires similaires, qui ont été relayés dans des périodiques de premier plan. Rutherford aurait incité "par jeu" n'importe quel "imbécile", "dans un laboratoire", à "faire exploser l'univers sans s'en rendre compte". Soddy parle bientôt de quelqu'un qui mettrait la main sur le "levier" qui pourrait "détruire la Terre".

C'était à l'époque de la plus grande immaturité de la physique nucléaire. La science avait à peine plus d'un an. De tels commentaires n'étaient donc que des conjectures sans fondement : plus une flambée rhétorique qu'une hypothèse sérieuse. C'est un peu comme si Soddy et Rutherford se vantaient, essayant d'instiller un sentiment de révérence et d'attirer l'attention sur leur domaine naissant.

En effet, ailleurs, d'autres chercheurs semblaient rivaliser en faisant des affirmations de plus en plus farfelues, comparant un granule d'uranium, dans sa puissance latente, à autant de tonnes de TNT. De telles fanfaronnades relevaient de la mise en scène scientifique : il s'agissait de tenter d'impressionner et d'effrayer le public quant aux pouvoirs et aux dangers de leur profession prométhéenne. Soddy et Rutherford n'avaient pas peur d'utiliser des images obscures et choquantes pour y parvenir.

À partir de là, le motif s'est imposé et a pris de l'ampleur. À la fin de l'année 1903, des journaux parlaient déjà de la "touche d'une clé" qui pouvait "faire exploser la Terre entière" par réaction en chaîne. Ces affirmations se sont propagées, puis ont fait boule de neige, à la fois dans la communauté scientifique et dans la presse. Les journaux parlent d'une "vaste conflagration", d'une Terre qui s'enflamme "en une explosion de flammes".

En 1909, le géologue irlandais John Joly a ajouté un nouvel ingrédient au mythe. Il a suggéré que cela pourrait expliquer les nouvelles étoiles qui apparaissent de temps à autre dans le ciel nocturne. Il s'agit peut-être de planètes lointaines, selon d'autres hypothèses, qui subissent des accidents d'origine atomique. Les "explosions observées dans les étoiles", supposait-on, pourraient être le résultat d'"explosions cosmoclastiques", provoquées par le bricolage scientifique de civilisations extraterrestres.

• Armes nucléaires : Pourquoi la Corée du Sud veut la bombe nucléaire

Au fil des ans, des scientifiques sérieux ont continué à faire la cour à cette conjecture. En 1921, le chimiste Walter Nernst a comparé l'humanité à une colonie de créatures vivant sur une boule de poudre à canon, qui disparaîtraient à l'instant où "Prométhée leur tendrait une torche". Des charlatans ont également donné de l'élan au motif. En 1924, un ingénieur de l'université de Sheffield s'est vanté d'être sur le point de réussir à casser les atomes. (Il était doué pour l'autopromotion : il avait déjà fait l'objet d'articles pour avoir inventé un "rayon de la mort").

Les journalistes locaux ont fait du sensationnalisme en affirmant que ses expériences pourraient "évaporer" non seulement Sheffield, mais aussi l'univers tout entier. L'ingénieur reçoit des lettres terrifiées l'implorant de ne pas poursuivre. "Peut-être que si vous étiez un homme marié avec des enfants", peut-on lire dans une missive, "vous ne seriez pas aussi enthousiaste à l'idée d'une éventuelle destruction de la race humaine".

Ces conjectures macabres ont pris un ton différent au cours des décennies suivantes, alors que l'armement nucléaire devenait progressivement une entreprise concrète et, finalement, une réalité tragique. Il est devenu profondément déplaisant de plaisanter sur le fait que l'immolation de la Terre pourrait plaire aux "baigneurs du soleil sur les plages de Mars". Pourtant, divers intellectuels, dont Carl Jung, ont continué à se référer à la théorie selon laquelle les novae sont de lointains essais atomiques qui ont mal tourné. La revue Science a même publié un article sur la question en juin 1946, à la veille des essais américains d'après-guerre dans l'atoll de Bikini. On pouvait y lire que les "non-scientifiques" n'étaient pas les seuls à être "troublés par la perspective" d'une inflammation planétaire.

Que faut-il retenir de tout cela ? Tout d'abord, cela montre que les craintes de Teller, ainsi que celles de ses collègues du projet Manhattan, n'ont pas émergé spontanément dans le vide.

Il est tout à fait possible qu'ils en seraient arrivés à cette crainte si personne n'avait jamais imaginé de catastrophes similaires auparavant. Il est également possible que leur attention ait été attirée par le fait que le motif de la "détonation" s'était infiltré si profondément dans la conscience culturelle. Mais cela dépendait, de manière tout à fait plausible, d'une boutade faite par Soddy, quatre décennies plus tôt. À l'époque, Soddy ne fondait pas cette boutade grandiloquente sur la moindre idée sérieuse ; elle découlait en grande partie de son désir de promouvoir son nouveau domaine à l'aide de tactiques de choc.

Il aurait très bien pu ne pas l'inclure. Peut-être que s'il ne l'avait pas fait, ou si Rutherford ne l'avait pas amplifiée, elle n'aurait pas pris racine comme elle l'a fait ; peut-être que si c'était le cas, elle n'aurait pas eu l'élan ou l'importance nécessaires pour attirer l'attention d'Oppenheimer.

• Thomas Schelling, l’économiste qui a aidé à éviter une guerre nucléaire

Nos craintes ne sont pas toujours le fruit de la seule raison. Elles sont aussi le produit de certains passés, où certains motifs sont ancrés dans la conversation, et d'autres négligés, selon des modalités qui dépendent du caprice et du hasard. Un thème peut s'ancrer dans notre conscience, uniquement par le renforcement automatique d'une familiarité cumulative, bien avant qu'il n'y ait des recherches sérieuses pour le confirmer.

Les angoisses actuelles seront également façonnées de cette manière, par des motifs dont nous héritons parce qu'ils ont prospéré auparavant, souvent pour des raisons qui n'ont pas grand-chose à voir avec la rationalité elle-même. Il y a donc lieu d'examiner attentivement - mais pas du tout de rejeter hâtivement - les scénarios actuels les plus farfelus sur la mort de l'IA. Après tout, le cas de la peur nucléaire montre également comment un problème spéculatif peut passer de la science-fiction à la réalité concrète beaucoup plus rapidement que beaucoup ne le pensent. En 1929, par exemple, le lauréat du prix Nobel Robert Millikan a écrit que l'énergie disponible par le craquage des atomes pourrait "peut-être suffire à faire vivre le vendeur de cacahuètes ou de pop-corn du coin", mais que "c'est tout". Beaucoup d'autres ont annoncé que cette énergie ne viendrait tout simplement jamais.

"Personne n'a clairement anticipé les dangers plus terre-à-terre que l'explosion nucléaire annonçait dans la pratique."

Néanmoins, nous devons rester vigilants quant à la manière dont les goûts culturels peuvent fausser nos prévisions et nos craintes. Les visions charismatiques d'une conflagration mondiale sont arrivées et se sont répandues facilement pour les premiers spéculateurs, mais personne n'a clairement anticipé les dangers plus terre-à-terre que l'explosion nucléaire annonçait dans la pratique. C'est-à-dire sous la forme de retombées, de cendres irradiées tombant littéralement sur Terre, dont les communautés - souvent marginalisées - souffrent encore aujourd'hui de l'héritage nocif.

La leçon à tirer pour l'IA est peut-être que les risques dramatiques doivent retenir notre attention, mais qu'il en va de même pour les risques plus tangibles, qui attirent moins l'attention. Aucun ne doit annuler l'autre, surtout quand, une fois de plus, notre monde est peut-être en jeu.

---