Vous avez peut-être remarqué récemment sur Facebook une multiplication d’images étranges. Jésus en forme de crevette, des bébés dans un panier de vélo, ou encore des personnes âgées tenant des gâteaux d’anniversaire improbables… Bienvenue dans le monde du « AI slop »!

Qu’est-ce que le « AI slop » ?

Le terme « AI slop » désigne cette quantité soudaine de contenu généré par intelligence artificielle de mauvaise qualité qui envahit nos fils d’actualité. Ces images, souvent bizarres et visiblement fausses, sont générées par des algorithmes et publiées en masse sur les réseaux sociaux, en particulier sur Facebook, mais X ne s’en échappe pas non plus.

Pourquoi ces images prolifèrent-elles ?

Plusieurs théories tentent d’expliquer ce phénomène. Ces publications pourraient servir d’appât pour identifier des utilisateurs crédules, cibles potentielles pour du phishing. La création de pages avec un grand nombre d’abonnés peut également être lucrative. De plus, ces images étranges génèrent souvent beaucoup d’engagement, ce qui les fait promouvoir par l’algorithme de Facebook.

Pourquoi Facebook ne fait-il rien ?

Malgré la présence évidente de ce contenu, Facebook semble réticent à agir. Ces images ne violent pas directement les règles de la plateforme, et certains utilisateurs semblent même apprécier ce contenu. Facebook pourrait également craindre de créer un précédent en bannissant du contenu généré par IA. La réponse la plus plausible: aller chercher un maximum de visites.

Quelles sont les conséquences ?

Cette prolifération de « AI slop » soulève plusieurs inquiétudes. Tout d’abord, la qualité du contenu sur Facebook se dégrade, affectant l’expérience utilisateur. Il y a aussi un risque de désinformation, car certains utilisateurs pourraient croire que ces images sont réelles. Enfin, ces images peuvent potentiellement être utilisées pour cibler des personnes vulnérables, ce qui soulève des questions éthiques importantes.

Que pouvons-nous faire ?

En tant qu’utilisateurs, nous avons un rôle à jouer face à ce phénomène. Il est crucial de rester vigilants et critiques face au contenu que nous voyons sur les réseaux sociaux. N’hésitez pas à signaler le contenu suspect à Facebook lorsque vous en rencontrez. Enfin, sensibiliser notre entourage à ce phénomène peut contribuer à créer une communauté plus informée et résiliente face à ces contenus douteux.

Le « AI slop » met en lumière les défis auxquels font face les plateformes sociales à l’ère de l’IA générative. Il est crucial que des entreprises comme Meta trouvent un équilibre entre l’innovation technologique et la protection de leurs utilisateurs contre les contenus potentiellement dangereux.