Le contenu médiocre généré par l’IA devient la nouvelle norme

Ce n’est un secret pour personne : la technologie touche tous les aspects de nos vies et nous faisons de plus en plus confiance aux machines au détriment de nos propres instincts. Montez dans un bus, prenez place dans un wagon de train ou asseyez-vous dans un avion retardé, et vous remarquerez que probablement 80 % des passagers, jeunes comme moins jeunes, sont rivés à leurs écrans. Et tous ne sont pas comme moi, en train d’essayer de terminer cet article pendant le trajet ; autrement dit, je tape ces lignes après que mon vol a été retardé — une situation devenue courante dans les aéroports européens.

À côté de moi, un passager qui n’a presque pas levé les yeux est absorbé par son écran et glousse devant de courtes vidéos sur les réseaux sociaux, qui n’apportent ni sagesse ni connaissance — ce que l’on appelle désormais du « slop » ou du « brain rot ». La personne assise à côté de lui, je l’ai vue jouer à des jeux dès l’instant où elle s’est installée, avant même que l’on nous annonce le retard du vol, d’abord à cause du dégivrage de l’appareil, puis en raison de la perte de notre créneau de décollage. Après de longues négociations menées par notre capitaine consciencieux, nous avons finalement décollé deux heures plus tard, sans que ces deux passagers — ni beaucoup d’autres dans l’avion — ne détournent ne serait-ce qu’un instant leur regard de leur écran.

Il semble que ces écrans continuent de leur fournir un flux de contenu qui les maintient satisfaits, engagés et heureux, alors même que plus de 20 % des contenus que YouTube montre, par exemple, à de nouveaux utilisateurs sont désormais du contenu de faible qualité généré par l’IA. Tant que les clics augmentent, les plateformes accumulent joyeusement les profits, même si les consommateurs se retrouvent à nager dans les déchets.

Les plateformes de réseaux sociaux accumulent joyeusement les profits, tandis que les consommateurs se retrouvent à nager dans les déchets. 

                                                           Mohamed Chebaro

La société de montage vidéo Kapwing a analysé 15 000 des chaînes YouTube les plus populaires au monde — les 100 premières dans différents pays — et a constaté que 278 d’entre elles ne contenaient que du slop généré par l’IA. Ensemble, ces chaînes totalisent 63 milliards de vues et 221 millions d’abonnés, générant environ 117 millions de dollars de revenus par an.

Pour tester l’algorithme et ses garde-fous, les chercheurs ont créé un nouveau compte YouTube et ont découvert que 104 des 500 premières vidéos recommandées sur le fil étaient du contenu de type slop généré par l’IA. Par ailleurs, un tiers relevait de ce que l’on appelle le « brain rot », une catégorie qui inclut le slop généré par l’IA et d’autres contenus de faible qualité conçus pour monétiser l’attention sans servir aucun but, aucune cause, ni produire autre chose qu’un engourdissement de l’esprit.

Ces chaînes sont réparties dans le monde entier et regardées par des millions de personnes. En Espagne, 20 millions de personnes suivent des chaînes d’IA tendance, tandis qu’on compte aussi 18 millions d’abonnés en Égypte, 14,5 millions aux États-Unis et 13,5 millions au Brésil.

De nombreux signaux d'alarme ont été lancés par les gouvernements et les groupes de soutien, qui craignent l'impact des vagues de contenus inutiles qui inondent l'internet et passent à travers les barrières de protection des plateformes les mieux intentionnées pour atteindre les enfants et les jeunes, qui sont de plus en plus collés à leurs écrans. On craint que ce slop et ce brain rot ne s’infiltrent durablement et ne leur causent des dommages indéfinis.

Les gouvernements tirent désormais la sonnette d'alarme face à cette tendance. L'Australie a même pris la décision courageuse d'interdire les réseaux sociaux aux moins de 16 ans, tandis que la France pourrait suivre son exemple afin de limiter les effets néfastes des contenus inappropriés sur les jeunes. L'Union européenne dans son ensemble tente également de tenir les géants de la technologie responsables des dommages causés par leurs outils et plateformes numériques et alimentés par l'IA, qui ne font l'objet d'aucune modération. D’autres gouvernements, comme au Royaume-Uni, tentent d’ouvrir le dialogue et d’exiger des contenus de meilleure qualité, en dissuadant les plateformes de promouvoir des pièges à clics de mauvaise qualité.

Cependant, la véritable ligne de front semble se situer dans les salons des familles — et ceux qui tentent de faire face au slop et au brain rot mènent un combat perdu d’avance. La Big Tech paraît imperméable à toute tentative d’imposer une modération ou une régulation, sans même parler de responsabilité, dans cette nouvelle ère d’impunité numérique et technologique défendue par les États-Unis au nom de la liberté d’expression et des libertés individuelles.

La véritable ligne de front semble se situer dans les salons des familles — et ceux qui affrontent le slop livrent un combat perdu d’avance. 

                                                           Mohamed Chebaro

Par souci d’équité, il faut préciser que le monde numérique, avec ou sans IA, a aussi produit de nombreux contenus de grande qualité et constitue un outil important pour la science et le développement, contribuant à informer et à accroître les connaissances, sans oublier une large offre de contenus récréatifs appréciables. Mais davantage doit être fait pour éradiquer et briser ces tendances lucratives.

Au cours des deux dernières années, l’émergence de grands modèles de langage comme ChatGPT et DALL-E a démocratisé la création de contenu et l’a rendue accessible à tous. Cela a permis à de larges pans de la population de produire du contenu, qu’il ait ou non de la profondeur ou une direction claire. Et c’est là que réside le danger pour la société. La crainte est que, très bientôt, ce contenu sans contexte, sans intrigue et sans cible ne devienne la nouvelle norme, visant à satisfaire un appétit pour le surréaliste, avec le désir de devenir viral comme seule force motrice.

Cependant, chercher à définir et à se protéger de ce déluge de contenus uniquement à travers un prisme technologique serait une erreur. Nous, les consommateurs, portons aussi une part de responsabilité.

Oui, nous vivons à l’ère des outils d’IA pilotés par des algorithmes, dominée par la quête de l’engagement et le désir de l’accélérer à tout prix. Produire du slop généré par l’IA est, après tout, un moyen de gagner sa vie. Mais c’est aussi le produit de notre économie mondiale, dans laquelle la demande alimente l’offre. Ce modèle économique dépend de quelques puissantes entreprises technologiques et semble offrir des rendements décroissants pour le travail réel, tout en promettant des fortunes à ceux qui réussissent à exploiter le contenu généré par l’IA. C’est désormais la norme, et les consommateurs, quel que soit leur âge, semblent prêts à y adhérer — et à l’accepter.

Mohamed Chebaro est un journaliste libano-britannique qui a plus de 25 ans d'expérience dans les domaines de la guerre, du terrorisme, de la défense, des affaires courantes et de la diplomatie.

NDLR: L’opinion exprimée dans cette page est propre à l’auteur et ne reflète pas nécessairement celle d’Arab News en français.

Ce texte est la traduction d’un article paru sur Arabnews.com