L’article de Matthew Tokson, Artificial Intelligence and the Lessons of History, part d’un constat: l’histoire des technologies est souvent utilisée de manière trop sélective dans les débats sur l’IA. Les optimistes rappellent que la presse, la révolution industrielle ou d’autres innovations ont d’abord suscité des craintes avant de produire des effets globalement bénéfiques. Les sceptiques, eux, invoquent l’histoire inverse: de nombreuses inventions très médiatisées n’ont finalement presque rien changé.

Tokson refuse ces deux lectures. Pour lui, l’histoire ne démontre ni que l’IA sera nécessairement bénéfique, ni qu’elle sera banale. Elle montre surtout que les élites, les experts et les gouvernements se trompent souvent sur les technologies nouvelles, tantôt par excès d’optimisme, tantôt par excès de scepticisme.

La première étape du raisonnement concerne les erreurs de prévision technologique. Tokson prend d’abord l’exemple de la fission nucléaire. Avant sa découverte, beaucoup de scientifiques de tout premier rang estimaient qu’une exploitation contrôlée de l’énergie atomique relevait de la spéculation ou de la science-fiction. Einstein lui-même avait jugé très improbable que l’homme puisse un jour tirer une énergie utile du noyau atomique. Niels Bohr exprimait également de fortes réserves, et Oppenheimer, lorsqu’on lui annonça en 1939 les résultats obtenus par Hahn et Strassmann, aurait d’abord tenté de démontrer au tableau que la fission était impossible. Le lendemain, confronté à l’expérience, il comprit immédiatement que cette découverte pouvait conduire à des réacteurs et à des bombes. L’intérêt de l’exemple n’est pas de ridiculiser ces savants. Il est de montrer que des experts peuvent connaître parfaitement l’état d’une science et manquer pourtant ce qui n’existe pas encore. Ils raisonnent à partir des paradigmes disponibles, alors que les ruptures naissent souvent de recherches parallèles, d’essais imprévus et de découvertes que personne n’avait correctement anticipées.

Tokson transpose cette leçon à l’IA. Une partie du scepticisme contemporain repose sur l’idée implicite que les modèles actuels vont seulement progresser de manière graduelle, sans rupture comparable à celle qu’a constituée l’architecture « transformer » pour les grands modèles de langage. Or l’histoire de la fission enseigne précisément qu’une telle hypothèse est fragile. Les systèmes d’IA de demain ne seront probablement pas seulement des versions plus puissantes de ceux d’aujourd’hui; ils pourraient aussi être différents dans leur architecture, leurs capacités et leurs usages. Il n’est donc pas raisonnable de fonder une politique publique sur l’idée que les limites actuelles de l’IA seront nécessairement les limites futures de l’IA.

Le deuxième exemple est celui d’Internet. À la fin des années 1980 et au début des années 1990, les éléments essentiels du Web moderne apparaissent rapidement: HTML, le World Wide Web, les premiers grands services en ligne, puis les moteurs de recherche. Pourtant, jusqu’à une période avancée, des économistes, dirigeants d’entreprise et commentateurs doutent fortement de l’importance économique et sociale d’Internet. Paul Krugman prédit en 1998 que son impact sur l’économie ne dépassera pas celui du fax. D’autres annoncent l’effondrement ou la saturation du réseau. Ces prédictions n’étaient pas absurdes au moment où elles ont été formulées: beaucoup de technologies prometteuses échouent. Mais elles illustrent la difficulté de savoir, pendant les premières années d’une technologie, si elle restera marginale ou transformera l’ensemble de la société.

L’exemple d’Internet sert aussi à critiquer l’optimisme social. Dans les années 1990 et 2000, une opinion dominante veut qu’Internet favorise naturellement la démocratie, l’expression libre, la décentralisation du pouvoir et l’affaiblissement des régimes autoritaires. Bill Clinton affirme ainsi que la Chine aura du mal à contrôler Internet. Cette vision s’est révélée très partielle. Les régimes autoritaires ont appris à utiliser le réseau pour surveiller, censurer, identifier les opposants et contrôler l’espace public. Même dans les démocraties, Internet a permis une surveillance de masse moins coûteuse et une dégradation de l’environnement informationnel. La leçon est importante pour l’IA: une technologie peut être réellement puissante et produire des effets sociaux très différents de ceux que ses promoteurs annonçaient. L’erreur ne vient pas seulement des Cassandre; elle vient aussi des prophètes du progrès automatique.

La deuxième grande partie de l’article porte sur le scepticisme face aux risques catastrophiques. Tokson reconnaît que beaucoup d’alertes ne se réalisent pas. Certaines pandémies annoncées restent limitées; certaines prévisions de tornades ou d’ouragans sont de fausses alertes; certaines craintes, comme l’explosion démographique mondiale telle qu’elle était formulée à la fin des années 1960, ne se concrétisent pas comme prévu. Mais il en tire une conclusion inverse de celle des sceptiques: le fait que beaucoup d’alertes soient excessives ne prouve pas que toutes les alertes le sont. Au contraire, l’habitude de minimiser les alertes peut aggraver les catastrophes lorsque le risque finit par se réaliser.

La troisième grande partie de l’article examine les courses aux armements entre grandes puissances. Tokson vise ici un argument très présent dans le débat américain: l’idée que les États-Unis seraient engagés dans une course à l’IA contre la Chine, course qui justifierait une dérégulation presque complète au nom de la vitesse, de l’innovation et de la supériorité militaire. Pour tester cet argument, l’auteur revient à la course nucléaire de la guerre froide. Les États-Unis ont bien gagné la première étape en développant la bombe atomique puis la bombe thermonucléaire. Mais cet avantage a été très bref. L’Union soviétique a rapidement rattrapé son retard, notamment grâce à l’espionnage, à la rétro-ingénierie et à ses propres scientifiques. Le résultat n’a pas été une domination américaine durable, mais une accumulation massive d’armes capables de détruire l’humanité.

Tokson décrit ensuite la logique de la bombe H. Après l’essai nucléaire soviétique de 1949, les États-Unis débattent de l’opportunité de développer une arme thermonucléaire beaucoup plus puissante. Le comité consultatif présidé par Oppenheimer recommande de ne pas poursuivre cette voie. Mais l’administration Truman choisit finalement le développement. Le premier essai américain a lieu en 1952 et produit une puissance environ mille fois supérieure à celle d’Hiroshima. Moins d’un an plus tard, l’Union soviétique teste à son tour une bombe à fusion. La supériorité américaine a donc existé, mais elle a été trop courte pour offrir un avantage stratégique solide. En revanche, la course elle-même a créé une menace permanente.

L’auteur insiste ensuite sur les « presque catastrophes » nucléaires. La crise des missiles de Cuba est l’exemple le plus connu: plusieurs conseillers de Kennedy préconisent une attaque militaire, qui aurait probablement provoqué une guerre nucléaire; Kennedy choisit finalement la négociation. En 1983, Stanislav Petrov, officier soviétique, reçoit une alerte informatique indiquant le lancement de missiles intercontinentaux américains. Au lieu de transmettre l’alerte comme une attaque réelle, il conclut à une erreur du système. Son jugement personnel évite probablement une riposte nucléaire. D’autres incidents similaires montrent que le monde a parfois été sauvé par la chance, la prudence individuelle ou la possibilité humaine de contredire une machine.

C’est ici que le parallèle avec l’IA devient le plus préoccupant. Une technologie militaire fondée sur l’IA serait numérique, donc plus facilement copiée, diffusée, volée ou reproduite qu’une infrastructure industrielle classique. Même si les États-Unis obtenaient une avance temporaire, la Chine ou d’autres puissances pourraient probablement la réduire rapidement. En revanche, la course pousserait chaque camp à accélérer, à intégrer l’IA dans des systèmes militaires sensibles et à déléguer davantage de décisions aux machines. Tokson souligne que cette dynamique pourrait être particulièrement dangereuse si l’IA venait à interagir avec les systèmes nucléaires ou les chaînes de commandement militaire. Dans la guerre froide, certaines catastrophes ont été évitées parce que des humains pouvaient désobéir aux signaux informatiques. Une course à l’autonomie militaire pourrait précisément réduire cette marge humaine.

La conclusion générale de l’article est donc une leçon de prudence, mais non une invitation à l’immobilisme. Tokson ne prétend pas que l’IA conduira nécessairement à une catastrophe, ni que toute innovation doit être freinée. Il dit plutôt que l’histoire ne donne aucun fondement sérieux à la complaisance. Les technologies nouvelles peuvent dépasser les attentes, produire des dommages sociaux, causer des dégâts environnementaux majeurs ou créer des risques existentiels. Les experts peuvent se tromper, y compris les meilleurs; les gouvernements peuvent agir trop tard; les marchés peuvent amplifier les risques; les courses stratégiques peuvent produire beaucoup plus de dangers que d’avantages durables. Pour les juristes et les régulateurs, l’enseignement principal est que l’incertitude ne doit pas servir de prétexte à l’inaction. Elle devrait au contraire justifier une régulation systémique, évolutive, informée par plusieurs disciplines, capable de traiter les dommages immédiats de l’IA comme la discrimination, la fraude, la surveillance ou les deepfakes, mais aussi les risques plus difficiles à prévoir liés aux capacités futures. L’histoire ne dit pas exactement ce que l’IA deviendra; elle dit seulement qu’il serait imprudent de supposer qu’elle restera maîtrisable sans effort collectif sérieux.

Me Philippe Ehrenström, avocat, LLM, CAS en Droit t intelligence artificielle, CAS en Protection des données – Entreprise et administration