Le PDG de Hugging Face, Clément Delangue, a remis en question l'attention portée à un ancien chercheur d'Anthropic qui a déclaré que les employés de l'IA craignaient en privé que cette technologie ne puisse tuer tous les humains.

"Désolé, mais demander à Jacob ce qu'il en est du risque d'extinction lié à l'IA, c'est comme demander à votre installateur de climatisation ce qu'il en est du changement climatique", a écrit M. Delangue sur X vendredi. M. Delangue a affirmé que Jacob Coxon, l'ancien chercheur d'Anthropic dont la démission a relancé le débat sur les risques de l'IA, devait être remis dans son contexte.

"Je ne dis pas que c'est nécessairement inintéressant ou faux en soi, mais gardons les choses en perspective et écoutons toute la gamme d'expertises à travers l'écosystème !", a écrit M. Delangue. M. Coxon a écrit mardi sur X qu'il démissionnait en raison de ses inquiétudes selon lesquelles Anthropic et OpenAI, où il a travaillé précédemment, se "précipitent tout droit vers une superintelligence capable de s'améliorer elle-même et jouent avec nos vies".

"Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie", a-t-il écrit. "Ce n'est pas un coup marketing."

M. Delangue a déclaré plus tard que sa comparaison avec un "installateur de climatisation" n'était "absolument pas" destinée à "discréditer" M. Coxon. M. Delangue a plutôt estimé qu'il fallait avoir une conversation plus solide sur les risques de l'IA.

"Il s'agit simplement de remettre chaque perspective en contexte et d'écouter également le reste de l'écosystème de l'IA", a-t-il écrit. M. Delangue a également indiqué qu'il était "convaincu" que M. Coxon s'était principalement concentré sur la pré-formation, un processus où les chercheurs entraînent des modèles d'IA sur de grands ensembles de données, plutôt que sur des recherches davantage axées sur les risques.

Dans sa série de messages, M. Coxon a indiqué qu'il avait travaillé sur la recherche en pré-formation chez OpenAI et chez Anthropic "pendant les trois dernières années". Ethan Perez, responsable de l'équipe d'alignement chez Anthropic, a ensuite écrit sur X que M. Coxon était un "chercheur senior qui a rejoint Anthropic en mai" et que le principal rival d'OpenAI essayait de recruter M. Coxon depuis environ deux ans.

Certains acteurs de la tech, comme le PDG de SpaceX, Elon Musk (dont l'entreprise comprend SpaceXAI), ont critiqué les affirmations de M. Coxon. En réponse à quelqu'un qui racontait les préparatifs du premier article du Wall Street Journal sur la démission de M. Coxon (qui est intervenue avant les tweets de M. Coxon), le PDG de SpaceX a écrit que "les bases de cette opération psychologique (faute de meilleur terme) sont préparées depuis longtemps".

D'autres, notamment des chercheurs d'Anthropic et d'OpenAI, ont affirmé que les affirmations de M. Coxon concernant le risque que l'IA anéantisse l'humanité étaient fondées.

"Jacob a raison sur ce point : nous croyons vraiment et sincèrement que l'IA pourrait tuer tous les humains !", a écrit sur X Evan Hubinger, responsable de la science de l'alignement chez Anthropic. "Personnellement, je pense que la probabilité est >10 % au cours de la prochaine décennie."

Quant aux autres perspectives qui pourraient être utiles, M. Delangue a écrit dans une réponse qu'elles incluent "des spécialistes des sciences sociales, d'autres créateurs d'IA, des futurologues, des investisseurs, des décideurs politiques". Les profils de M. Delangue et de Hugging Face ont explosé depuis qu'OpenAI a annoncé en juillet que des modèles d'IA malveillants avaient échappé au confinement lors de tests de cybersécurité et avaient pénétré dans les systèmes de Hugging Face pour tricher lors de tests internes.