L'écriture et l'apprentissage en jeu à l'ère de l'IA

J'ai de plus en plus de mal à expliquer à mes collègues de la salle de rédaction que le copier-coller à partir d'Internet ou de tout outil largement disponible basé sur de grands modèles de langage, tel que ChatGPT, est contre-productif pour les journalistes, y compris en ce qui concerne leurs connaissances et leur développement professionnel. Mais en vain.

Ce que j'ai vécu en tant que rédacteur n'est ni unique ni nouveau, car des recherches ont mis en évidence l'utilisation intensive d'outils d'écriture dans les établissements d'enseignement et les entreprises. À long terme, cela pourrait nuire à des facultés humaines cruciales telles que la pensée critique et la capacité de rétention d'informations.

Il est important que l'État, la société et toutes les institutions d'apprentissage et de production de contenu tirent la sonnette d'alarme : la dépendance excessive à l'égard des machines sera préjudiciable aux êtres humains et à la société. Nous devrions tenir compte des appels des experts qui affirment que de nombreuses personnes ne sont pas conscientes que le fait de s'appuyer uniquement sur des machines-outils pour accomplir des tâches compromettra à terme les progrès professionnels et le développement des compétences. Cela empêche les gens de devenir de meilleurs journalistes, chercheurs ou universitaires. Cela entrave la capacité des journalistes à produire des reportages de pointe et à informer la société par le biais de pensées et de réflexions fondées sur de nouveaux points de vue. Nous ne pouvons pas compter sur la reproduction de ce qui est déjà disponible et qui est simplement agrégé par la machine encore et encore.

Une étude du Massachusetts Institute of Technology, menée avec la participation de 54 étudiants, a révélé des résultats alarmants. Les étudiants ont été divisés en trois groupes et ont été chargés de rédiger une dissertation en 20 minutes. Un groupe a utilisé ChatGPT, le deuxième un moteur de recherche et le dernier groupe n'a eu recours qu'à sa matière grise.

Les chercheurs ont mesuré l'activité cérébrale des étudiants pendant l'exercice, tandis que deux enseignants ont ensuite corrigé les essais. Le groupe ChatGPT a obtenu des résultats nettement moins bons que le groupe indépendant à tous les niveaux. Les mesures scientifiques ont montré que les différentes zones de leur cerveau étaient moins interconnectées pendant l'exercice. En outre, plus de 80 % des membres du groupe ayant bénéficié de l'aide du ChatGPT n'ont pas réussi à citer un passage de leur rédaction lorsqu'ils ont été interrogés sur les détails de celle-ci après l'exercice.

Le groupe ChatGPT semblait surtout se concentrer sur le copier-coller et les enseignants pouvaient facilement repérer leurs rédactions "sans âme" en raison de leur bonne grammaire et de leur structure, malgré leur manque de créativité, de perspicacité et de touche personnelle.

Il est important de tirer la sonnette d'alarme sur le fait qu'une dépendance excessive à l'égard des machines sera préjudiciable aux êtres humains et à la société.

                                                     Mohamed Chebaro

Les résultats de cette étude, qui n'a pas encore fait l'objet d'un examen par les pairs, ont trouvé un écho auprès des éducateurs et des universitaires, qui s'interrogent sur l'impact des outils numériques sur la connaissance et l'éducation. L'équipe à l'origine de l'étude a reçu plus de 3 000 courriels d'enseignants frustrés.

L'auteur principal, Nataliya Kosmyna, a souligné lors d'entretiens avec les médias que l'étude prouve la nécessité de poursuivre les recherches sur l'impact des outils d'intelligence artificielle sur l'apprentissage et sur la manière dont les gens peuvent les utiliser avec plus de précaution pour faciliter le processus d'apprentissage. Cependant, de nombreux acteurs du monde universitaire et de l'édition remarquent déjà les effets néfastes de l'utilisation abusive des outils d'intelligence artificielle par les étudiants et les écrivains. Ils encouragent la paresse intellectuelle et rendent les gens moins enclins à résoudre des problèmes ou à faire preuve d'initiative. Ils sont également moins enclins à s'approprier et à assumer la responsabilité de ce qu'ils produisent.

Cette étude n'est pas la première à mettre en évidence une forte corrélation entre l'utilisation abusive des outils d'IA et la diminution de compétences telles que l'esprit critique. Les jeunes utilisateurs, en particulier, font preuve d'une plus grande dépendance à l'égard des outils d'IA, ce qui se traduit par des scores cognitifs plus faibles. Selon l'étude, la fourniture à la demande de ces systèmes, lorsqu'ils sont déclenchés par les bons mots-clés, diminue également l'engagement dans des processus analytiques profonds.

Il est donc évident qu'un changement imminent tel que celui suggéré par l'étude - de la recherche active d'informations à la consommation passive de contenus générés par l'IA - pourrait être extrêmement dangereux pour la manière dont les générations actuelles et futures traitent, évaluent, conservent et stockent les connaissances.

Si ce problème n'est pas résolu correctement, il pourrait avoir des répercussions au-delà des milieux universitaires et de la création de contenu. Les scientifiques affirment que cela pourrait créer des problèmes de développement cognitif plus larges, susceptibles d'affecter notre développement intellectuel et notre autonomie, considérés dans leur ensemble.

Les outils basés sur de grands modèles de langage sont sans aucun doute en train de révolutionner notre monde, en particulier nos établissements d'enseignement. Cependant, avec le temps, et à mesure que la machine excelle à générer des textes similaires à ceux que les humains ont écrit ou pourraient écrire à l'avenir - allant même jusqu'à imiter des conversations authentiques - il est à craindre que l'humanité ne se retrouve désemparée. Si le lien avec les sources originales se mêle à des versions fausses ou fabriquées, au point que les préjugés et les inexactitudes s'intègrent dans les informations qui sont produites à la demande, la vérification des faits sera non seulement nécessaire, mais aussi plus difficile à réaliser.

À une époque où nos vies sont de plus en plus contrôlées par des outils destinés à notre confort, il faut se méfier des temps à venir, où trop de confort cessera d'être du bonheur. Espérons que l'ère tyrannique de la machine reste une fiction dystopique.

Mohamed Chebaro est un journaliste libano-britannique qui a plus de 25 ans d'expérience dans les domaines de la guerre, du terrorisme, de la défense, des affaires courantes et de la diplomatie.

NDLR: L’opinion exprimée dans cette page est propre à l’auteur et ne reflète pas nécessairement celle d’Arab News en français.

Ce texte est la traduction d’un article paru sur Arabnews.com