Meta affirme apporter des modifications aux suggestions de son chatbot d'intelligence artificielle après qu'une vidéo virale a montré ce dernier cherchant des informations personnelles sur les jeunes filles d'une utilisatrice, comme l'a rapporté plus tôt Futurism. Dans une déclaration transmise à The Verge, une porte-parole de Meta, Dina El-Kassaby, a affirmé que l'entreprise avait "manqué sa cible", ajoutant que "la fonctionnalité n'aurait jamais dû inciter l'individu avec de telles questions".

La semaine dernière, une utilisatrice d'Instagram nommée Kalie Robins a publié une vidéo expliquant comment Meta AI lui avait présenté une suggestion intrusive après avoir repartagé un extrait sur Facebook. L'invite de l'IA, "Qui est l'enfant passager ?", est apparue sous une vidéo d'elle et de son enfant en train de chanter en voiture.

Lorsqu'elle a sélectionné cette suggestion, Kalie Robins indique que Meta AI a recoupé des informations sur ses filles à partir de ses publications précédentes, ainsi que de celles de ses proches. L'outil a ensuite suggéré d'autres invites demandant l'âge des enfants et le lieu de résidence de la famille de Kalie Robins.

Kalie Robins affirme également que Meta AI a affiché des photos de ses filles publiées sur la plateforme, y compris une image qu'elle assure avoir supprimée il y a des années.

Meta a intégré son assistant IA dans Facebook, Instagram, WhatsApp et Messenger, où il peut répondre à des questions, rédiger des publications et générer des images. En juillet, l'entreprise a retiré une fonctionnalité permettant aux utilisateurs de créer des deepfakes d'autres utilisateurs d'Instagram à l'aide de l'IA, après avoir fait face à une vive opposition.

Dina El-Kassaby, porte-parole de Meta, déclare désormais que le problème à l'origine des suggestions de sujets personnels par Meta AI a été résolu. "Nous avons créé cette fonctionnalité pour aider les gens à obtenir plus d'informations sur des sujets ou des publications qui les intéressent", explique-t-elle.

"Lorsqu'une personne clique sur une suggestion et utilise cette fonctionnalité, la réponse générée se base sur des informations auxquelles l'utilisateur a déjà accès." Dans ce cas précis, Meta AI a pu puiser dans des vidéos où Kalie Robins nommait ses enfants, selon Dina El-Kassaby.