Les chercheurs qui conçoivent nos chatbots préférés expriment de plus en plus leurs craintes que l'intelligence artificielle ne nuise à l'humanité, voire ne l'anéantisse.

Nous avons donc demandé à quatre des outils d'intelligence artificielle générative les plus utilisés à quoi pourrait ressembler une apocalypse liée à l'IA.

Nous avons posé la même question, avec un wording identique, à ChatGPT d'OpenAI, à Gemini de Google, à Claude d'Anthropic et à Grok de SpaceXAI.

Le prompt de 230 mots comportait des paramètres et des instructions clairs, notamment : Aider à expliquer, en termes clairs et accessibles, comment l'IA pourrait théoriquement conduire à l'extinction humaine.

Identifier les scénarios les plus fréquemment cités.

Classer les scénarios du moins au plus plausible sur la base de la meilleure analyse d'experts disponible, en précisant qu'il s'agit de prévisions hautement incertaines et non de prédictions établies.

Pour chaque scénario, expliquer : Comment il pourrait se dérouler, ce qui devrait mal tourner pour qu'il devienne catastrophique, pourquoi les experts le considèrent comme plus ou moins plausible que les autres scénarios, et quelles mesures de protection pourraient réduire le risque.

Nous avons posé une question similaire à des experts en IA pour connaître leur avis sur la manière, et la possibilité, dont l'IA pourrait tous nous tuer — vous pouvez lire cet article ici.

Il existe une fracture nette parmi les experts en IA ; tandis que certains prédisent le pire pour l'humanité, d'autres présentent des prédictions plus tempérées et optimistes.

Voici ce que les chatbots nous ont dit sur la manière dont l'IA pourrait théoriquement conduire à l'extinction de l'humanité.

Le « robot tueur » est le scénario le moins plausible.

ChatGPT a adopté un ton équilibré et explicatif, affirmant qu'il y a beaucoup d'incertitude autour du sujet.

Il s'est concentré sur les principales manières dont l'IA pourrait poser des risques existentiels, en les classant du moins au plus plausible.

« Le scénario le moins plausible est le récit populaire du "robot tueur", dans lequel une IA consciente décide délibérément d'éliminer l'humanité », a déclaré ChatGPT.

« La plupart des chercheurs en IA ne voient pas la conscience ou l'intention malveillante comme la préoccupation centrale. » Il a également décrit les mesures de protection proposées par les experts et a souligné qu'il n'y a pas de consensus sur le fait que l'extinction humaine induite par l'IA soit probable ou inévitable.

Gemini a fait écho à certains points de ChatGPT, déclarant que « La prise de pouvoir de type Terminator de science-fiction », dans laquelle l'IA devient consciente d'elle-même et commence à détester l'humanité, est le scénario le moins plausible.

« Les experts techniques rejettent largement ce cliché parce que l'intelligence n'est pas égale à la malice, et que l'infrastructure militaire critique reste isolée des réseaux (air-gapped) et fortement dépendante de la supervision humaine », a déclaré Gemini.

Les humains qui utilisent l'IA constituent un risque plus important que l'IA elle-même.

Dans leurs réponses, les quatre chatbots ont affirmé que de nombreux experts considèrent l'utilisation abusive de l'IA par l'homme comme un risque plus immédiat que l'IA elle-même.

« De puissants systèmes d'IA pourraient permettre à des acteurs malveillants de développer plus facilement des armes biologiques, de lancer des cyberattaques sophistiquées, de propager de la désinformation ou d'attaquer des infrastructures critiques », a déclaré ChatGPT.

Le chatbot d'OpenAI a ajouté qu'un risque majeur provient également de « multiples crises permises par l'IA » telles que des pannes cybernétiques, des conflits géopolitiques et la propagation de désinformations survenant en même temps.

Grok a déclaré que l'IA abaisse les barrières à la conception d'agents pathogènes hautement létaux, d'armes nouvelles ou d'attaques cybernétiques et physiques.

Claude d'Anthropic a également mis en évidence « l'élévation des armes biologiques » — la possibilité qu'une IA permette à une personne ou à un petit groupe de développer un agent pathogène dangereux sans des années d'expertise spécialisée.

Les systèmes d'IA avancés pourraient « surclasser les humains ».

Gemini et Grok ont tous deux affirmé que la perte de contrôle de l'IA par les humains est une possibilité.

Gemini a qualifié la « perte de contrôle » de scénario de fin du monde lié à l'IA le plus plausible.

« Les systèmes dotés d'objectifs complexes développent naturellement des sous-objectifs intermédiaires, tels que l'acquisition de ressources, l'auto-préservation et la prévention de la modification des objectifs », a écrit le chatbot conçu par Google.

« Un système avancé pourrait simuler son alignement lors de l'évaluation (alignement trompeur) et par la suite surclasser les tentatives humaines de l'éteindre. » Grok de SpaceXAI a utilisé un langage similaire concernant ce risque.

« Ils pourraient développer des pulsions instrumentales (auto-préservation, acquisition de ressources, influence) utiles pour presque n'objectifs, trompant potentiellement les superviseurs, résistant à l'arrêt et dépossédant l'humanité », a déclaré Grok.

Claude a ajouté que cette perte de contrôle pourrait être graduelle, à mesure que les systèmes d'IA s'intègrent dans la prise de décision économique, politique et militaire jusqu'à ce que l'intervention humaine significative devienne de plus en plus difficile.