Le débat sur la publication ou non des visages d'enfants sur les réseaux sociaux n'est pas nouveau. J'ai des amis dont les enfants sont maintenant à l'université et qui, je m'en souviens, ont eu du mal à décider s'il fallait publier des photos de bébé sur Instagram. Mais très récemment, cette conversation a pris un tournant important en raison des inquiétudes liées à l'IA, et a même incité Meta à agir.

Deux événements viraux se sont produis sur Instagram au cours de la dernière semaine environ, avec des origines assez différentes mais finalement le même résultat : des parents affirmant qu'ils ne devraient plus publier d'images de leurs enfants en ligne. Le premier était une vidéo Instagram virale de Kalie Robins, une mère de l'Utah.

Robins a été choquée et effrayée lorsqu'elle a remarqué des suggestions de Meta AI sur une vidéo qu'elle avait publiée d'elle-même et de son enfant. Le chatbot Meta AI a suggéré des questions telles que "qui est l'enfant passager ?"

Suite à d'autres questions de Meta AI, Robins a constaté que l'intelligence artificielle avait récupéré des photos d'elle qu'elle pensait avoir supprimées, ainsi que des informations sur ses enfants provenant de la page Facebook de sa mère. Bien que Meta AI extrayait des informations déjà existantes en ligne, le système suggérait également des questions sur l'identité des enfants, les exposant potentiellement à des étrangers.

Méta m'a affirmé que ces suggestions d'IA étaient une erreur qui a depuis été corrigée. "Lorsqu'une personne clique sur une invite et utilise cette fonction, la réponse générée est basée sur des informations auxquelles l'utilisateur a déjà accès", a déclaré Andy Stone, porte-parole de Meta.

"Mais nous avons commis une erreur car la fonction n'aurait jamais dû poser de telles questions à l'individu et nous avons résolu ce problème", a-t-il ajouté. Meta AI a suggéré des questions sur ses enfants.

Je me suis entretenu avec Robins, et elle a exprimé qu'elle n'ignorait pas comment Meta AI avait pu trouver ces informations. Pour elle, c'était un rappel brutal de la quantité de données que nous laissons sur les réseaux sociaux, même sans nous en rendre compte.

"Je pensais être tellement prudente parce que je n'ai jamais fait de photos de rentrée scolaire avec le nom de l'école et de l'enseignant. Je n'ai jamais posté devant un monument ou devant notre maison avec des panneaux de rue", m'a-t-elle confié.

"Je pensais être très prudente et, au final, cela n'avait aucune importance. L'IA n'a même pas obtenu ces informations directement auprès de moi. Elle les a obtenues auprès d'autres personnes, donc peu importe à quel point j'étais prudente dans ce cas."

La réaction en ligne à la vidéo de Robins a été double : d'une part, le constat que Meta AI a eu un comportement effrayant et rebutant, et d'autre part, l'idée que c'est un bon rappel pour les parents de se méfier des informations disponibles sur leurs enfants et des photos qu'ils publient.

Des photographes professionnels hésitent à partager des photos d'enfants. Parallèlement, une autre tendance virale sur Instagram pousse les gens à repenser la publication d'images d'enfants en ligne.

Un groupe de photographes de famille professionnels, presque tous des femmes ou des mères elles-mêmes, ont publié des avis annonçant une nouvelle politique selon laquelle ils ne partageront plus les visages d'enfants sur les réseaux sociaux ou leurs sites professionnels.

La préoccupation ici concerne le matériel d'abus sexuel sur des enfants généré par l'IA (CSAM), et le risque que les photos publiées sur les réseaux sociaux soient utilisées pour créer des deepfakes d'enfants spécifiques, ou que leurs visages se retrouvent dans l'entraînement de données pour des modèles d'IA capables de créer ce type de contenu.

Il s'agit d'une préoccupation légitime, et il y a eu des affaires criminelles impliquant des CSAM générés par l'IA, dont certaines ont attiré l'attention des médias nationaux. Une récente décision juridique concernant les CSAM générés par l'IA.

La récente décision d'un juge dans une affaire pénale concernant des CSAM générés par l'IA est devenue virale dans certains cercles de parents sur Instagram. Les détails de la décision juridique sont complexes, mais la version courte est que le juge a écrit qu'il existe un précédent juridique selon lequel la possession (et non la production ou la distribution) de pornographie infantile générée par l'IA est protégée par la liberté d'expression.

Les implications de cette décision, et ce qu'elle signifie pour les photos innocentes d'enfants, font actuellement le buzz sur Instagram. Hannah Haggard, photographe de famille et de mariage basée dans le Kentucky, a publié sur son compte Instagram qu'elle modifiait ses règles et ne publierait plus aucun visage d'enfant, même avec l'autorisation des parents.

"J'avais déjà l'idée en tête", a déclaré Haggard. "Je ne publie jamais sans consentement, mais j'y pensais déjà. Puis, lorsque la décision est tombée, cela a été la confirmation que c'était ce qu'il fallait faire."

Une grande partie des réactions en ligne que j'ai vues semble indignée par cette décision, qui à première vue semble être une bonne nouvelle pour les prédateurs d'enfants. Mais Mariefaye Bechrakis, avocate spécialisée dans les droits humains et les droits de l'enfant qui a écrit sur les questions juridiques liées aux CSAM générés par l'IA pour l'American Bar Association, affirme que la situation est plus nuancée.

"Ce qu'il est important de noter, c'est que les juges donnent le feu vert pour un futur appel", a déclaré Bechrakis à propos de son avis sur la décision du juge. "Ils ont pratiquement fourni une future feuille de route et une réelle opportunité aux futurs procureurs."

"Ils ont noté que les modèles d'IA modernes ne créent pas d'images à partir de rien, mais qu'ils doivent être formés sur de grands ensembles de données", a-t-elle ajouté. Katey Sutton, photographe de famille dans le Missouri, a également publié un message concernant sa politique de ne pas montrer les visages d'enfants sur Internet.

"Je ne crois pas que l'IA soit vraiment 'synthétique'", a-t-elle déclaré. "Il est bien connu que l'IA parcourt Internet et utilise les informations qu'on lui donne ou qu'elle trouve pour informer, recommander, créer, etc."

En parcourant Facebook ou Instagram, vous remarquerez clairement que tous les parents n'ont pas cessé de publier des photos d'enfants. Mais pour certaines personnes, ces récentes frayeurs liées à l'IA les incitent à réfléchir attentivement aux risques avant de publier. Et c'est probablement une bonne chose.