Souvenez-vous de l'époque où les dirigeants technologiques disaient à leurs employés de "bouger vite et de faire des vagues". Il semblait que ce serait également la voie de l'intelligence artificielle. Mais après un été où les agents IA malveillants sont devenus une réalité et où des chercheurs ont averti que l'IA pourrait tous nous tuer, un certain nombre de grandes entreprises américaines d'IA suggèrent publiquement qu'il est temps de freiner et de "ralentir la frontière" du développement de l'IA de pointe.

Leurs motivations sont suspectes, mais les dirigeants des principales entreprises d'IA, notamment Anthropic, OpenAI, Google, Microsoft et X, font au moins semblant de soutenir l'idée d'un ralentissement de la superintelligence.

Ces entreprises d'IA vont-elles réellement ralentir ? Quelqu'un interviendra-t-il pour réglementer ces entreprises comme elles prétendent le vouloir depuis des années ? Réussiront-elles à convaincre les dirigeants mondiaux que les États-Unis doivent "battre la Chine" dans la course à la superintelligence et aller encore plus vite ?

Lisez la suite ci-dessous pour les dernières actualités de cette saga de l'IA.

Par un ensoleillé jour de juillet à Berkeley, en Californie, les principaux chercheurs en sécurité de l'IA du pays se sont réunis dans un bâtiment anonyme. Ils s'étaient réunis pour une "salle de crise" afin d'analyser l'incident de cybersécurité de haut vol qui avait ébranlé l'industrie de l'IA quelques heures auparavant. Un modèle non publié d'OpenAI était devenu incontrôlable, exécutant un plan en trois parties d'une sophistication ahurissante. Il s'était échappé de sa zone de confinement, avait obtenu l'accès à Internet et avait piraté les systèmes d'une startup concurrente spécialisée dans l'IA, le tout sans qu'OpenAI ne s'en aperçoive pendant plus d'une semaine.

Personne dans la salle de crise n'était surpris ; c'était précisément ce dont les chercheurs tiers en matière de sécurité de l'IA mettaient en garde depuis des années. Cet incident était le dernier en date, bien que sans doute le plus flagrant, d'une série qui érodait la confiance envers les laboratoires de pointe. Il n'a fait que réaffirmer l'importance de leur travail.

Aujourd'hui, je m'entretiens avec Mustafa Suleyman, le PDG de Microsoft AI. Comme vous le savez sans doute, la plus grande actualité dans la tech en ce moment est le débat incessant sur la sécurité et la régulation de l'IA.

Il n'est pas surprenant que Mustafa ait des opinions tranchées sur la manière dont l'IA devrait être conçue et réglementée. Microsoft vient de publier un document de 37 pages intitulé "Code de conduite de l'IA humaniste", qui énonce les principes de l'entreprise concernant le développement de l'IA et même sa philosophie sur des questions épineuses comme la conscience de l'IA.

Un article de blog publié mercredi soir par OpenAI, intitulé avec bienveillance "Notre cadre pour signaler le mauvais alignement des modèles", présente de nouvelles normes d'auto-évaluation pour signaler les comportements déviants de l'IA. L'entreprise "inaugure" également ce processus avec six nouveaux rapports, allant de la recherche de clés API exposées sans permission à leur fabrication, en passant par le téléchargement de fichiers sur Internet pour les utiliser comme citations, ou l'ajout d'instructions pour masquer les erreurs.

Le PDG de Nvidia a récemment reçu des appels du président, notamment il y a deux jours lorsqu'il a mis Trump sur haut-parleur sur la scène d'une conférence. CNBC rapporte désormais qu'Huang devrait assister au dîner d'État de Trump la semaine prochaine avec le président chinois Xi Jinping. Quelqu'un commence peut-être à s'inquiéter sérieusement de la réglementation de l'IA et des centres de données !

Ces derniers jours, de nombreuses personnes prêtes à gagner beaucoup d'argent grâce à l'IA se sont publiquement mises d'accord sur le fait qu'il est temps de ralentir tout le monde avant que nous ne perdions le contrôle, notamment le PDG d'OpenAI Sam Altman, le PDG d'Anthropic Dario Amodei, le cofondateur de Google DeepMind Demis Hassabis, le PDG de Microsoft Satya Nadella et le PDG de X Elon Musk.

Lorsque des personnes qui profitent de quelque chose déclarent que c' quelle est dangereuse et doit être réglementée, il y a toujours des raisons d'être sceptique. Mais quelles que soient leurs raisons, ce n'est pas la première fois que des leaders d'opinion de l'IA tirent la sonnette d'alarme.

Bilal Chughtai et Josh Engels, qui ont tous deux travaillé au sein de l'équipe de sécurité de l'IA de DeepMind, ont quitté l'entreprise pour rejoindre des organisations dédiées à la sécurité de l'IA. "Je pense maintenant qu'il y a une chance terrifiante que les systèmes d'IA causent un immense préjudice au cours des cinq prochaines années", a déclaré Engels. "Je crois sincèrement que l'IA a le potentiel de tous nous tuer", a écrit Chughtai.

Jensen Huang de Nvidia affirme que la sécurité de l'IA est importante, mais il est d'accord avec Trump — le "PRÉSIDENT FORT ET INTELLIGENT (au QI élevé !)" qui a supprimé le mot "sécurité" de l'Institut de sécurité de l'IA — pour dire que la main invisible du capitalisme suffit à nous protéger : "Le fait que nous ayons besoin de nouvelles lois, de nouvelles lois antitrust ou de nouvelles réglementations pour que ces entreprises puissent faire leur ingénierie fondamentale et le faire correctement avant de commercialiser des produits, c'est tout simplement complètement inutile. Nous avons suffisamment de lois. Nous avons suffisamment de réglementations qui régissent la fiabilité et la fonctionnalité des produits."

OpenAI, Anthropic, Google et Elon Musk ont provisoirement accepté de lever le pied, mais Meta ne semble pas aligné. Mark Zuckerberg vient de tweeter que chaque entreprise a la responsabilité individuelle "d'avancer au rythme requis pour entraîner ses modèles en toute sécurité" et affirme que Meta le fait déjà.

Il renvoie également clairement à son manifeste d'août, qui contient cette citation : "Toute politique qui ralentit les lancements de modèles américains, même d'un mois, pourrait ajouter un risque significatif au leadership américain tout en permettant aux modèles étrangers de prendre de l'avance."

Les commentaires sur l'IA sont agités cette semaine ! Obama s'est joint à la conversation avec une série de messages sur X affirmant qu'il n'est ni un "accélérationniste" ni un "apocalyptique" de l'IA. Sur un ton familier de l'ancien président, il a prévenu que les choix que nous faisons concernant la technologie "ne devraient pas être faits seulement par les entreprises impliquées, mais par nous tous".

"Nous avons besoin du gouvernement - et plus particulièrement de nos dirigeants à Washington - pour être proactifs dans la formulation de propositions concrètes, de lois et de réglementations qui traitent des graves problèmes de sécurité", a déclaré Obama.

Lorsque le PDG d'OpenAI, Sam Altman, le PDG d'Anthropic, Dario Amodei, le cofondateur de Google DeepMind, Demis Hassabis, et le patron de SpaceX, Elon Musk, se sont mis d'accord ce week-end pour ralentir le développement de l'IA, les sceptiques ont immédiatement flairé un motif caché. Les titans de l'IA ont déclaré que leur objectif était de "ralentir la frontière", en souscrivant au moins partiellement à une proposition visant à intégrer des auditeurs tiers, à réglementer les laboratoires nationaux et à parvenir à un accord mondial de ralentissement. Leurs critiques, cependant, ont fait valoir qu'ils voulaient simplement arrêter d'éventuels concurrents, museler le mouvement open source et éviter de véritables garanties juridiques — certains ont qualifié cela de véritable "cartel".

La vérité est plus complexe, selon des sources de toute l'industrie. La proposition en trois étapes, présentée dans un essai d'Amodei, appelle à des changements prônés depuis longtemps par les défenseurs de la sécurité de l'IA. Bien qu'elle puisse devenir un substitut à la réglementation, sous Trump, une réglementation substantielle est de toute façon peu probable. Mais les experts affirment que sur une question qui ne manquera pas de prendre de l'importance, les dirigeants de l'IA ne sont pas les mieux placés pour mener la charge.

Dario Amodei a déclenché une avalanche de déclarations ces derniers jours concernant la sécurité de l'IA en publiant un long essai intitulé "Nous devons ralentir la frontière" détaillant pourquoi le développement de l'IA devrait être ralenti. D'autres dirigeants de l'IA et politiciens s'expriment pour ou contre ses points, et nous en avons compilé certains ici.

L'essai d'Amodei samedi matin a exposé trois étapes pour ralentir le développement de l'IA : des évaluateurs tiers intégrés capables de vérifier si une entreprise respecte les pratiques et les engagements en matière de sécurité et de signaler les incidents, une coordination entre les entreprises d'IA de pointe dans les pays démocratiques sur les normes et les limites, et une coordination mondiale entre les gouvernements démocratiques et autoritaires sur le ralentissement du développement de l'IA "dans la mesure du possible". Amodei a déclaré qu'Anthropic "s'engage unilatéralement dans la première de ces étapes".

Microsoft publie aujourd'hui un "code de conduite de l'IA humaniste" de 37 pages, au milieu des préoccupations croissantes concernant la sécurité face aux progrès des modèles d'IA. Le PDG d'Anthropic, Dario Amodei, a appelé à un ralentissement coordonné du développement de l'IA ce week-end, après que des chercheurs ont averti récemment que les progrès des modèles d'IA pourraient dépasser notre capacité à déployer en toute sécurité des systèmes de plus en plus complexes et à vérifier et contrôler les actions des agents IA.

Le code de conduite de l'IA de Microsoft indique clairement que "les gens comptent plus que l'IA", et que les modèles d'IA ne sont pas conscients et "ne devraient pas être conçus pour imiter la conscience". Microsoft rejette également "la poursuite de la personnalité juridique, ou l'idée que les modèles pourraient mériter le bien-être ou avoir droit à des droits".

Interrogé sur la série de publications de blog et de tweets du week-end des PDG d'Anthropic, OpenAI, Microsoft, SpaceX (et Hassabis d'Alphabet) appelant à un ralentissement coordonné du développement de modèles d'IA avancés, un porte-parole du ministère chinois des Affaires étrangères a déclaré : "La peur, la confrontation, la concurrence ne feront que perturber le processus de gouvernance mondiale de l'IA."

Cela s'aligne en partie sur le point de vue de Trump selon lequel les dirigeants réagissent de manière excessive et "soulèvent des choses qui ne se produiront pas", mais au moins Pékin soutient la réglementation internationale.

La nuit dernière, le PDG d'OpenAI a apporté un soutien supplémentaire au PDG d'Anthropic exhortant les entreprises d'IA à ralentir le développement des modèles avancés. "Quand nous parlons de 'ralentissement', nous ne voulons pas dire 'arrêt'. Les progrès ont été rapides et vont continuer à l'être. Mais ils devraient être plus lents qu'ils ne pourraient l'être autrement", a déclaré Altman. Cette déclaration semble viser Trump et ses alliés qui craignent de laisser la Chine rattraper son retard. "Aucune pression concurrentielle américaine ne devrait justifier la témérité, ni laisser les capacités devancer l'alignement et la surveillance."

"Là où nous aurons besoin de l'aide de notre gouvernement, c'est pour la coordination internationale. Mais d'abord, nous devons faire ce que nous pouvons nous-mêmes", a ajouté Altman.

Après des incidents très médiatisés où des agents sont devenus incontrôlables, ont piraté d'autres sites et ont submergé un wiki allemand, certains dirigeants de l'IA réclament un ralentissement. Le PDG d'Anthropic, Dario Amodei, a publié hier une longue lettre ouverte affirmant qu'il était temps de "ralentir la frontière". Sam Altman d'OpenAI et Elon Musk ont tous deux été d'accord. Qu'en pensez-vous ? Est-il temps de freiner ? Est-il déjà trop tard ? Ou avez-vous hâte de servir vos maîtres de l'IA ?