Apprendre à désapprendre, un défi pour l'IA

Cette photo d'illustration prise le 30 octobre 2023 à Mulhouse, dans l'est de la France, montre des figurines à côté d'un écran affichant un logo de Google DeepMind, un laboratoire britannico-américain de recherche sur l'intelligence artificielle. (Photo Sebastien Bozon AFP)
Cette photo d'illustration prise le 30 octobre 2023 à Mulhouse, dans l'est de la France, montre des figurines à côté d'un écran affichant un logo de Google DeepMind, un laboratoire britannico-américain de recherche sur l'intelligence artificielle. (Photo Sebastien Bozon AFP)
Short Url
Publié le Samedi 09 décembre 2023

Apprendre à désapprendre, un défi pour l'IA

  • Les spécialistes considèrent que le problème du désapprentissage de l'IA sera crucial dans les prochaines années, au regard notamment de la règlementation européenne sur la protection des données (RGPD)
  • Google DeepMind, spécialisée dans l'IA, s'est emparée du problème: des experts de la firme américaine ont publié le mois dernier, avec M. Kurmanji, un algorithme destiné à effacer des données au sein d'importants modèles de langage

PARIS : Quand Brian Hood a découvert que ChatGPT lui attribuait un passé criminel, ce politicien australien s'est retrouvé face à un casse-tête que des ingénieurs tentent désormais de résoudre: comment apprendre à l'intelligence artificielle (IA) à effacer des erreurs?

Ni la solution légale — en avril, Brian Hood a menacé de porter plainte pour diffamation contre la société OpenAI, à l'origine de ChatGPT — ni le reparamétrage complet des IA ne semble une solution satisfaisante: entraîner à nouveau le modèle s'avérerait particulièrement long et coûteux.

Or, les spécialistes considèrent que le problème du désapprentissage de l'IA sera crucial dans les prochaines années, au regard notamment de la règlementation européenne sur la protection des données (RGPD).

«La capacité à effacer des données au sein de bases d'apprentissage est un sujet majeur», confirme Lisa Given, professeur en sciences de l'information à l'université RMIT de Melbourne. Mais au regard du manque actuel de connaissances sur le fonctionnement des IA, le chemin est encore long, selon elle.

Devant la somme colossale de données sur lesquelles les IA sont entraînées, les ingénieurs cherchent plutôt une solution ciblée afin d'écarter des informations fausses de leur champ de connaissance et d'en arrêter la propagation.

Le sujet a pris de l'ampleur depuis trois à quatre ans, a confirmé à l'AFP le chercheur Meghdad Kurmanji, de l'université britannique de Warwick, expert du domaine.

Google DeepMind, spécialisée dans l'IA, s'est emparée du problème: des experts de la firme américaine ont publié le mois dernier, avec M. Kurmanji, un algorithme destiné à effacer des données au sein d'importants modèles de langage, comme ceux de ChatGPT ou de Bard, le modèle de Google.

- Correction de certains biais -

Et, entre juillet et septembre, plus de 1.000 participants se sont attelés à peaufiner des méthodes de «désapprentissage» des IA dans le cadre d'un concours lancé par l'entreprise américaine.

La méthode employée, commune aux autres recherches en la matière, consiste à introduire un algorithme ordonnant à l'IA de ne pas tenir compte de certaines informations apprises et n'implique pas de modifier la base de données.

Meghdad Kurmanji assure que ce procédé peut être «un outil très intéressant» pour permettre, par exemple, à des outils de recherche de répondre à des demandes de suppression, en conformité avec la protection des données personnelles.

L'algorithme mis au point s'est également montré performant dans la suppression de contenus protégés par des droits d'auteur ou dans la correction de certains biais, assure-t-il.

D'autres, comme le responsable de l'IA au sein de Meta (Facebook, Instagram) Yann LeCun, se montrent plus réticents.

«Je ne dis pas que c'est inutile, sans intérêt ou mauvais, mais je pense qu'il y a d'autres priorités», affirme-t-il à propos de cet algorithme auprès de l'AFP.

Pour Michael Rovatsos, professeur en intelligence artificielle à l'université d'Édimbourg, «la solution technique n'est pas la panacée».

Le «désapprentissage» ne permettrait pas, selon lui, de poser des questions plus larges, comme celle de savoir comment les données sont rassemblées, qui en tire profit ou encore à qui doit incomber la responsabilité des dommages engendrés par l'IA.

Si Brian Hood a vu son problème réglé, sans explication, une fois que son affaire a été suffisamment médiatisée pour corriger automatiquement les données traitées par ChatGPT (qui n'a pas répondu aux sollicitations de l'AFP), il considère que l'heure est encore aux méthodes artisanales.

«Il faut que les utilisateurs vérifient tout, dans les cas où les chatbots écrivent des âneries», affirme l'Australien.

 


Avec la guerre au Moyen-Orient, la peur de l'inflation est de retour sur les marchés

La bourse coréenne le 3 mars 2026. (AFP)
La bourse coréenne le 3 mars 2026. (AFP)
Short Url
  • En Europe, la Bourse de Paris a perdu 3,46%, Londres 2,75% et Francfort 3,44%. Milan a reculé de 3,92%.
  • A Wall Street, vers 16H50 GMT, le Dow Jones cédait 1,38%, l'indice Nasdaq a pris 1,32% et l'indice élargi S&P 500 1,28%.

PARIS: Bourses qui vacillent, taux d'intérêt en hausse... avec la flambée du prix des hydrocarbures provoquée par la guerre au Moyen-Orient, la peur de l'inflation est de retour sur les marchés.

En Europe, la Bourse de Paris a perdu 3,46%, Londres 2,75% et Francfort 3,44%. Milan a reculé de 3,92%.

A Wall Street, vers 16H50 GMT, le Dow Jones cédait 1,38%, l'indice Nasdaq a pris 1,32% et l'indice élargi S&P 500 1,28%.

"Les investisseurs craignent un choc d'inflation, en raison de la flambée des prix des hydrocarbures provoquée par le conflit au Moyen-Orient", explique à l'AFP Kevin Thozet, membre du comité d'investissement chez Carmignac.

En Europe, particulièrement dépendante de ses importations de gaz et de pétrole, le spectre de la crise inflationniste provoquée en 2022 par l'invasion de l'Ukraine par la Russie plane.

Le gaz s'enflamme

Au quatrième jour de l'offensive israélo-américaine contre l'Iran, Téhéran attaque mardi des sites liés aux Etats-Unis dans le Golfe, et Israël continue de bombarder "simultanément" l'Iran et le Liban.

Le conflit provoque depuis le début de la semaine une forte hausse du prix des hydrocarbures, en raison des perturbations de l'approvisionnement via le passage stratégique par lequel transite environ 20% du pétrole et du gaz naturel liquéfié (GNL) mondial.

Un général des Gardiens de la Révolution iraniens a d'ailleurs menacé lundi de "brûler tout navire" tentant de franchir le détroit.

Vers 16H50 GMT, le prix du baril de Brent de la mer du Nord prenait 7,07% à 83,24 dollars, après avoir dépassé les 85 dollars au cours de la séance, son niveau le plus élevé depuis juillet 2024. Son équivalent américain, le baril de West Texas Intermediate gagnait 7,34% à 76,46  dollars.

Le prix du gaz européen s'enflamme aussi, le contrat à terme du TTF néerlandais, considéré comme la référence du gaz naturel sur le Vieux Continent, bondissant de 20,69% à 53,71 euros. Depuis le début de l'année, il a grimpé de plus de 90%.

Cette flambée du prix de l'énergie ravive "la crainte que, même si cette guerre reste localisée, elle puisse avoir un fort impact sur la croissance européenne et raviver l'inflation", a relevé Neil Wilson, analyste de Saxo Markets.

Les taux d'intérêt en hausse en Europe

"La question est: revenons-nous à un scénario similaire à 2022, où la flambée des prix de l'énergie avait déclenché une vague massive d'inflation frappant l'économie mondiale ?", s'interroge Kathleen Brooks, analyste de XTB.

En Europe, le risque de "stagflation", une hausse des prix avec une croissance faible, inquiète les investisseurs.

"Une hausse des prix de l'énergie exerce une pression à la hausse sur l'inflation, en particulier à court terme", a déjà déclaré Philip Lane, chef économiste de la BCE, dans une interview accordée au Financial Times.

Et "une potentielle hausse de l'inflation pourrait mettre en péril les baisses de taux des banques centrales", complète David Kruk, responsable du trading de La Financière de l'Échiquier, interrogé par l'AFP.

Résultat, les taux d'intérêt des dettes d'Etat, pourtant considérées traditionnellement comme des valeurs refuge en cas d'incertitude, grimpent, particulièrement sur le Vieux Continent.

Une inflation plus élevée réduit en effet la valeur réelle des sommes versées par un emprunteur à ses créanciers. Ces derniers exigent par conséquent des taux d'intérêt plus élevés pour compenser cette perte.

Le taux d'intérêt à échéance dix ans de la dette allemande, référence en Europe, a bondi de près de 0,10 points de pourcentage durant la séance, avant de modérer ses gains à 0,03 point, à 2,74%.

Son équivalent français a lui grimpé de 0,08 point par rapport à la veille, atteignant un taux de 3,37%. Vendredi, avant le début de la guerre en Iran, il évoluait autour de 3,20%. L'obligation italienne, aussi à échéance dix ans, a bondi de 0,10 point de pourcentage, à 3,45%.

Hors zone euro, le taux d'intérêt britannique a atteint  4,46%, contre 4,37% lundi soir.

Les craintes des investisseurs sur l'économie européenne profitent en revanche au dollar, qui bondissait de 0,74% face à la monnaie unique européenne, à 1,1604 dollar pour un euro. D'ailleurs, aux États-Unis, plus autonome d'un point de vue énergétique, l'obligation à dix ans restait stable.

L'or est en revanche délaissé : l'once perdait 4,13% à 5.102,16 dollars.

 

 


Trump menace de «cesser tout commerce» avec l'Espagne, «très peu coopérative»

Donald Trump a menacé mardi de "cesser tout commerce avec l'Espagne", lui reprochant son refus de laisser les Etats-Unis utiliser des bases militaires situées en Andalousie pour leur guerre contre l'Iran et ses dépenses militaires qu'il juge insuffisantes. (AFP)
Donald Trump a menacé mardi de "cesser tout commerce avec l'Espagne", lui reprochant son refus de laisser les Etats-Unis utiliser des bases militaires situées en Andalousie pour leur guerre contre l'Iran et ses dépenses militaires qu'il juge insuffisantes. (AFP)
Short Url
  • "Nous allons cesser tout commerce avec l'Espagne. Nous ne voulons pas entendre parler de l'Espagne"
  • "C'est le seul pays de l'Otan qui n'a pas accepté de consacrer 5%" de son PIB à des dépenses en matière de Défense, comme le veut le nouvel objectif de l'Otan poussé par Washington

WASHINGTON: Donald Trump a menacé mardi de "cesser tout commerce avec l'Espagne", lui reprochant son refus de laisser les Etats-Unis utiliser des bases militaires situées en Andalousie pour leur guerre contre l'Iran et ses dépenses militaires qu'il juge insuffisantes.

"Nous allons cesser tout commerce avec l'Espagne. Nous ne voulons pas entendre parler de l'Espagne", a déclaré le président américain depuis la Maison Blanche, où il reçoit le dirigeant d'un autre pays européen, le chancelier allemand Friedrich Merz.

"L'Espagne a été terrible", a attaqué Donald Trump, en reprochant au gouvernement socialiste de Pedro Sanchez de refuser à l'aviation américaine l'accès à des bases militaires situées dans le sud du pays pour sa campagne militaire contre l'Iran.

"C'est le seul pays de l'Otan qui n'a pas accepté de consacrer 5%" de son PIB à des dépenses en matière de Défense, comme le veut le nouvel objectif de l'Otan poussé par Washington, a-t-il aussi rappelé.

"L'Espagne a été très, très peu coopérative", a encore regretté Donald Trump.

Dans une conférence de presse donnée plus tôt dans la journée, le ministre des Affaires étrangères espagnol José Manuel Albares a déclaré n'avoir "eu aucune conversation avec aucun représentant nord-américain, ni aucune demande" au sujet des bases militaires de Rota et Moron.

"Nous n'avons reçu aucune plainte", a-t-il insisté.

"Les bases que nous utilisons conjointement avec les États-Unis sont des bases sous souveraineté espagnole", a rappelé le ministre. "Et c'est dans le cadre de notre souveraineté et du traité signé avec les Etats-Unis qu'elles peuvent être utilisées."

 


L'ONU approuve le premier projet de crédit carbone lié à l'accord de Paris

"Les opportunités offertes par ce marché carbone des Nations Unies dans toutes les régions sont immenses, en particulier maintenant que des mesures de protection environnementale solides, des normes rigoureuses et un système de recours clair sont en place pour garantir l'intégrité, l'inclusivité et l'efficacité", s'est félicité le chef de l'ONU Climat, Simon Stiell. (AFP)
"Les opportunités offertes par ce marché carbone des Nations Unies dans toutes les régions sont immenses, en particulier maintenant que des mesures de protection environnementale solides, des normes rigoureuses et un système de recours clair sont en place pour garantir l'intégrité, l'inclusivité et l'efficacité", s'est félicité le chef de l'ONU Climat, Simon Stiell. (AFP)
Short Url
  • L'accord de Paris, moteur de la coopération climatique mondiale adopté en 2015, prévoit qu'un pays qui dépasserait ses objectifs de baisse des émissions de CO2 puisse vendre son excès de réductions à un pays en retard sur ses propres objectifs
  • Ce pays a désormais le droit, dans le cadre de l'accord de Paris, de réduire, sur le papier, le total de ses propres émissions de gaz à effet de serre, grâce à ces crédits carbone

PARIS: Le premier projet de crédit carbone dans le cadre de l'accord de Paris a reçu le feu vert de l'ONU jeudi, un mécanisme pour aider les pays riches à tenir leurs engagements climatiques mais critiqué pour les risques d'écoblanchiment.

L'accord de Paris, moteur de la coopération climatique mondiale adopté en 2015, prévoit qu'un pays qui dépasserait ses objectifs de baisse des émissions de CO2 puisse vendre son excès de réductions à un pays en retard sur ses propres objectifs, en général un pays riche.

Ce pays a désormais le droit, dans le cadre de l'accord de Paris, de réduire, sur le papier, le total de ses propres émissions de gaz à effet de serre, grâce à ces crédits carbone.

Concrètement, une entreprise sud-coréenne va financer un programme de remplacement de foyers de cuisson ouverts (bois, charbon de bois, etc.) par des foyers plus économes en combustibles en Birmanie, a annoncé l'ONU Climat jeudi.

De tels projets sont censés réduire les émissions de CO2 puisque moins d'énergie sera perdue et donc utilisée par les familles pour cuisiner, avec un bénéfice additionnel pour la qualité de l'air et pour protéger les forêts locales.

Selon l'Organisation mondiale de la santé, environ un quart de la population mondiale cuisine avec des foyers ouverts qui polluent l'air intérieur et extérieur en brûlant des combustibles tels que kérosène, charbon de bois, bouses séchées et déchets agricoles.

Mais ces programmes ont historiquement échoué à tenir leurs promesses, les méthodologies ayant surestimé les réductions d'émissions, notamment dans le cas où les populations délaissent les nouveaux systèmes parce qu'ils les trouvent moins pratiques, ou s'ils se cassent.

La Corée du Sud va, en payant pour ce programme de remplacement, bénéficier de crédits carbone, qui aideront à réduire le total de son empreinte carbone. Le mécanisme onusien évite un double comptage de ces réductions dans les pays vendeurs et acheteurs des crédits.

"Les opportunités offertes par ce marché carbone des Nations Unies dans toutes les régions sont immenses, en particulier maintenant que des mesures de protection environnementale solides, des normes rigoureuses et un système de recours clair sont en place pour garantir l'intégrité, l'inclusivité et l'efficacité", s'est félicité le chef de l'ONU Climat, Simon Stiell.

Au-delà des problèmes de comptage, les détracteurs du mécanisme de crédit carbone dénoncent un passe-droit donné à certains pour ne pas réduire leurs propres émissions, puisqu'il leur suffirait de payer pour se dire en ligne avec l'accord de Paris.

Ce nouveau mécanisme a été validé par les pays du monde entier à la COP29 en 2024, et des centaines d'autres projets attendent d'être approuvés.