Avez-vous vu les actualités ? Tout le monde s'affole au sujet de l'intelligence artificielle, qui présente une probabilité significative de tuer tout le monde sur la planète une fois qu'elle aura atteint la superintelligence... du moins selon une bande de personnalités de la tech qui ont peut-être leurs propres raisons d'alimenter la panique de masse.

Cette frénésie médiatique a provoqué des réactions négatives de la part de nombreuses personnes, dont Elon Musk, qui affirment que les Cassandres de l'IA se livrent à une opération psychologique (« psyop ») — en d'autres termes, qu'ils utilisent des moyens inauthentiques pour fabriquer une controverse inexistante autour de l'IA.

Les partisans de la théorie de l'opération psychologique soulignent un degré élevé de coordination parmi les alarmistes, bien qu'ils passent sous silence des explications moins conspirationnistes quant aux raisons pour lesquelles les politiciens et les journalistes amplifient leurs affirmations. Vous lisez Free Media de Robby Soave et Reason. Obtenez plus de reportages de Robby sur les médias, la désinformation et la liberté d'expression.

L'ancien employé d'Anthropic, Jacob Coxon, a déclenché cette crise plus tôt cette semaine lorsqu'il a annoncé qu'il quittait l'entreprise en raison de ses propres craintes qu'Anthropic et OpenAI — où il travaillait auparavant — ne se précipitent vers la superintelligence sans se soucier suffisamment de la façon dont une IA avancée pourrait menacer l'humanité.

Ses réflexions sur X sont devenues extrêmement virales et ont été largement diffusées par d'autres personnalités de la tech, des politiciens et des commentateurs. On aurait pu s'attendre à ce qu'Anthropic rejette son affirmation, mais un employé, Evan Hubinger, est effectivement intervenu pour faire écho aux inquiétudes de Coxon.

"Nous croyons vraiment sincèrement que l'IA pourrait tuer tous les humains !" a-t-il écrit. "Personnellement, je pense que c'est >10 % au cours de la prochaine décennie." Une chance supérieure à 10 pour cent que quelque chose se produise est significative.

Je pense que la plupart des gens ne voudraient pas que les entreprises d'IA poursuivent leurs plans si le risque d'extinction mondiale était vraiment aussi élevé. Il convient de noter que Hubinger rejette également explicitement la notion qu'il s'agit d'un "coup marketing", une accusation fréquemment adressée aux alarmistes de l'IA : à savoir qu'ils essaient de susciter l'intérêt pour le produit en le faisant paraître dangereusement cool, ce qui contribuera à accroître son attrait et, en fin de compte, sa valeur.

Cela dit, cela pourrait quand même être un coup marketing ! Il y a environ dix pour cent de chances que notre produit totalement génial devienne fou — n'est-ce pas à la fois incroyable et effrayant ?

Cela ressemble en effet à un gadget marketing plutôt qu'à une analyse sobre et scientifiquement raisonnée de la probabilité que la superintelligence produise une catastrophe. Comment le chiffre de 10 pour cent a-t-il été obtenu ?

Ont-ils pesé les chances que la superintelligence sauve des millions de vies ? Ou qu'elle contrarie l'IA malveillante d'un adversaire étranger ? Si les personnes travaillant sur ces systèmes pensent réellement qu'ils sont dangereux, elles ont la responsabilité d'être plus précises sur les types de menaces auxquels nous pourrions faire face.

Les prédictions vagues de doom technologique sont toutefois plus que suffisantes pour effrayer extrêmement le public. La publication de Coxon a été partagée partout, et il a rapidement été invité sur les plateaux des chaînes d'information en continu.

Des éditoriaux sont apparus dans les journaux et les magazines. Les régulateurs ont signalé leur disposition à passer à l'action. Anthropic elle-même semblait prête pour le blitz médiatique et a publié des déclarations suppliant le gouvernement fédéral de faire quelque chose pour restreindre non seulement son IA, mais aussi celle de ses concurrents.

Ce type de comportement n'est pas nouveau dans le monde de la tech. Meta, par exemple, a régulièrement publié des déclarations publiques soutenant une plus grande réglementation des entreprises de médias sociaux ; par le passé, des critiques ont soutenu que la législation qu'elles soutiennent pourrait finir par aider les produits de Meta en consolidant Facebook et Instagram en tant que leaders du marché.

Plus récemment, à la suite de la décision de Meta de régler divers litiges pour des milliards de dollars, l'entreprise a déclaré qu'elle soutenait pleinement la protection des enfants mandatée par le gouvernement — tant que le gouvernement réglementait également YouTube et TikTok.

Mais si la décision d'Anthropic de s'aligner sur les alarmistes de l'IA est cynique et intéressée, ce n'est toujours pas une "psyop", ni un complot élaboré pour piéger le peuple américain afin qu'il soutienne davantage de régulation — ce que les critiques de la position alarmiste allèguent également.

La vérité est que ni les politiciens ni les grands médias n'ont besoin de beaucoup d'excuses pour succomber à une pensée anti-technologique réflexe : ils ont par défaut tendance à vouloir prévenir les préjudices prétendus. À la fois les médias et le gouvernement ont un biais en faveur de l'action : quelqu'un devrait faire quelque chose.

Et l'IA est un gros "quelque chose". Nous avons tous été élevés avec des histoires de science-fiction qui prédisaient que des robots tueurs tenteraient de prendre le contrôle du monde : Terminator, Matrix, Dune, Battlestar Galactica, et ainsi de suite.

Il est facile de comprendre pourquoi des gros titres tape-à-l'œil avertissant que les initiés de la tech croient, de manière pas si secrète, qu'une IA rebelle n'est qu'à quelques années de détruire l'humanité vont vendre beaucoup de journaux. De même, aucun politicien ne veut être perçu comme manquant d'attention face à ce problème.

Même le sénateur Ted Cruz (R-Texas), une personnalité politique comparativement pro-tech, a amorcé ses récentes remarques sur l'IA en soulignant d'abord son approche bipartisane du "faire quelque chose" en matière de législation technologique. Il n'est donc pas vraiment surprenant que le monde du commentaire politique achète ce que vend cet ex-lanceur d'alerte d'Anthropic.

La dernière chose dont ce débat a besoin est que le camp pro-IA succombe à la paranoïa qui caractérise largement le camp alarmiste. Ce n'est pas une opération psychologique ; c'est une erreur. (Et non, cette phrase n'a pas été écrite par IA. Je peux utiliser cette construction aussi, ChatGPT !)

Cette semaine sur Freed Up : Nous discutons de la proposition du président Donald Trump de donner à chaque Américain un chèque de "dividende" de 5 000 dollars si les républicains remportent les élections de mi-mandat. À voir absolument