Mark Zuckerberg a déclaré que les entreprises d'IA n'ont pas besoin d'un accord sectoriel pour ralentir leur développement lorsque des préoccupations en matière de sécurité apparaissent. Dans une publication sur X mardi, le PDG de Meta a soutenu que la pression du marché fera de l'alignement, c'est-à-dire le fait de s'assurer que les systèmes d'IA suivent les intentions de leurs utilisateurs, un avantage concurrentiel.

"Chaque laboratoire a la responsabilité et l'incitation d'avancer au rythme requis pour entraîner ses modèles en toute sécurité", a déclaré M. Zuckerberg. "Mon point de vue est que la confiance et l'alignement deviennent rapidement les capacités les plus importantes qui différencieront les agents et les modèles", a-t-il ajouté. "Tout laboratoire qui ne se concentrera pas sur l'alignement sera laissé pour compte."

M. Zuckerberg a souligné la décision de Meta de retarder son modèle Muse de plusieurs mois pour renforcer sa sûreté et sa sécurité. "Nous n'avons pas demandé aux autres de faire de même avant de le faire", a-t-il affirmé. "Nous l'avons simplement fait."

Les commentaires de M. Zuckerberg interviennent dans un contexte de débat croissant sur la question de savoir si le développement de l'IA de pointe devrait être ralenti par des mesures de sauvegarde coordonnées et vérifiables. Anthropic a appelé à des réglementations gouvernementales et à des mécanismes permettant aux principaux laboratoires de faire une pause en cas de signaux d'alerte, mais d'autres dirigeants technologiques, dont le PDG de Nvidia Jensen Huang, ont indiqué qu'ils privilégiaient des évaluations indépendantes et une responsabilité individuelle pour les entreprises d'IA.

Le responsable de l'IA chez Meta, Alexandr Wang, a fait écho aux propos de M. Zuckerberg dans sa propre publication plus tard mardi, affirmant que les laboratoires ont besoin d'une gouvernance solide, d'évaluateurs externes et d'une surveillance indépendante des lancements de modèles. "Faire la course à l'auto-amélioration récursive est l'une des voies les plus risquées pour une perte de contrôle potentielle face à des modèles puissants", a déclaré M. Wang.

"Meta consacre la grande majorité de nos capacités de calcul à servir les personnes plutôt qu'à faire la course à l'auto-amélioration récursive, et les autres laboratoires peuvent choisir de faire de même", a-t-il ajouté. "L'IA est une technologie très puissante, et il y a une immense responsabilité à la développer en toute sécurité avec les bons freins et contrepoids."