Meta n’est peut-être pas la première entreprise à laquelle vous pensez lorsque vous évoquez l’IA générative, mais elle joue un rôle majeur dans la course actuelle à l’intelligence artificielle. L’entreprise dispose de son propre modèle d’IA, Llama, et a ajouté “Meta AI” à tous ses grands produits—que cela vous plaise ou non (cela ne vous plaît pas). Meta veut même vous inciter à créer votre propre bot IA. Il est donc sûr de dire que l’entreprise est pleinement engagée envers l’IA.
Mais même pour une entreprise aussi engagée dans l’IA, cette dernière histoire est tout simplement bizarre. Il s’avère que l’entreprise expérimente des comptes utilisateurs générés par IA sur ses plateformes depuis 2023. Les versions Instagram de ces pages sont actuellement en train de devenir virales, mais elles sont également disponibles sur Facebook. Les comptes sont vérifiés et chacun est doté d’une personnalité unique, mais ils sont entièrement frauduleux. Chacun est complètement fictif, avec des publications composées d’images générées par IA.
C’est tous les plus étranges, mais ce n’est pas si nouveau—les profils ont été créés il y a plus d’un an et semblent avoir été largement abandonnés. Maintenant que les profils suscitent de vives réactions en ligne, Meta supprime activement leur contenu.
Les utilisateurs IA de Meta sont un groupe répulsif
Il n’est pas difficile de voir pourquoi l’internet a adopté la haine pour ces fausses personnes. Prenons “Liv” (nom d’utilisateur “himamaliv”), qui prétend être une “maman queer noire fière de 2 enfants et porteuse de vérité.” Liv n’est, bien sûr, pas réelle, tout comme la vie dont elle parle sur son Instagram. Mais cela n’arrête pas Liv : Le créateur a posté des articles sur l’éducation de filles fortes, le patinage artistique en famille, et “absorber tout le soleil et le plaisir” avec “les enfants.” Chaque publication comporte une image correspondante—la publication sur la plage montre des enfants jouant dans le sable, tandis que la publication sur le patinage montre des patineurs sur une patinoire—mais toutes ces images sont générées par IA.
À la décharge de Meta, chaque image porte un filigrane Meta AI pour indiquer que l’image n’est pas réellement réelle, mais cela ne rend pas ces publications moins effrayantes. Pourquoi une “mère” générée par IA poste-t-elle une image générée par IA de ses “enfants” jouant à la “plage ?” Qui a profité de la collecte de manteaux générée par IA dont elle est fière d’avoir été l’initiatrice ?
Crédit : Jake Peterson
Dans sa deuxième publication la plus ancienne, datant du 26 septembre 2023, elle déclare : “Mon jardin est mon endroit heureux… J’ai organisé tant de fêtes d’anniversaire, de barbecues et de soirées entre filles dans cet espace que j’ai perdu le compte. Eternellement reconnaissante pour la vie que je mène,” accompagnée d’une image générée par IA d’un pique-nique. Le fait est que Liv n’a pas organisé de fêtes d’anniversaire, de barbecues ou de soirées entre filles dans cet espace. Cet espace n’existe pas. La vie pour laquelle Liv est si reconnaissante de vivre n’existe pas.
Liv suit 18 comptes au moment où j’écris ceci. Treize d’entre eux semblent être des pages similaires générées par IA. Par exemple, il y a Becca (dogloverbecca), qui publie du contenu sur des chiens générés par IA ; Brian (hellograndpabiran), qui se présente comme “le grand-père de tout le monde ;” et Alvin l’Alien (greetingsalvin), qui est, euh, un alien.
Mais toutes les publications ne sont pas générées par IA. Certaines d’entre elles ont aussi des vidéos publiées sur leurs comptes, et bien que les vidéos générées par IA puissent sembler convaincantes de nos jours, je ne pense pas que ces vidéos soient générées par IA—en tout cas, pas toutes. Carter, le coach de rencontre IA, avait une vidéo de cuisine de janvier 2024 qui semblait très réelle, mais il semble que Meta ait supprimé tout le contenu. Pourtant, qui les a publiées ? Dans quel but ?
Que pensez-vous jusqu’à présent ?
Ces comptes ne sont pas nouveaux, mais deviennent nouveaux viraux
Le plus étrange, c’est que ces publications et pages ne sont pas nouvelles. La dernière publication de Liv, par exemple, date du 8 mars 2024, tout comme la plupart des publications de ces bots IA. (Carter semble avoir posté aussi récemment que juin.) Pour la plupart, leurs profils sont abandonnés, bien que les badges de vérification soient encore apposés sur chacun. Cela dit, au moment où j’écris cela, Meta semble être en train de supprimer le contenu de chaque page Instagram. Les équivalents Facebook semblent encore actifs, mais j’imagine qu’ils disparaîtront bientôt eux aussi.
Crédit : Jake Peterson
Les pages sont en réalité liées à des chatbots IA que Meta a développés en 2023, lorsque l’entreprise mettait réellement en route ses programmes d’IA. À l’époque, les gros titres se concentraient principalement sur une gamme de chatbots IA de célébrités, qui permettaient de discuter avec “Tom Brady”, “Kendall Jenner” et “Paris Hilton.” Mais parmi cette liste de chatbots non célèbres que Meta a lancés figuraient des noms comme Liv, Brian et Alvin l’Alien. Vous pouvez encore discuter avec eux si vous le désirez : visitez le profil de Liv, et vous pouvez engager la conversation. Mais tout comme avec tout autre chatbot IA, vous n’irez probablement pas très loin.
Il n’est pas totalement clair pourquoi ces comptes deviennent viraux maintenant, un an et demi après que Meta les a initialement lancés. Si je devais deviner, je dirais que c’est parce qu’ils sont vraiment si mauvais. Les comptes sont étranges, et il y a tellement de couches dans leur étrangeté : Les personnalités que Meta a développées sont repoussantes (et aux limites de l’offensant) ; les publications elles-mêmes sont dérangeantes (qui veut voir des photos IA d’enfants de faux gens, accompagnées d’une histoire sur leur journée à la plage ?) ; et le fait qu’ils soient vérifiés contredit complètement l’objectif de la vérification elle-même.
En résumé, les comptes proviennent peut-être de 2023, mais ils reflètent un rejet ardent de la bouillie d’IA en 2025. Comme l’écrit Jason Koebler de 404media sur Bluesky :
