Apprendre à désapprendre, un défi pour l'IA

Cette photo d'illustration prise le 30 octobre 2023 à Mulhouse, dans l'est de la France, montre des figurines à côté d'un écran affichant un logo de Google DeepMind, un laboratoire britannico-américain de recherche sur l'intelligence artificielle. (Photo Sebastien Bozon AFP)
Cette photo d'illustration prise le 30 octobre 2023 à Mulhouse, dans l'est de la France, montre des figurines à côté d'un écran affichant un logo de Google DeepMind, un laboratoire britannico-américain de recherche sur l'intelligence artificielle. (Photo Sebastien Bozon AFP)
Short Url
Publié le Samedi 09 décembre 2023

Apprendre à désapprendre, un défi pour l'IA

  • Les spécialistes considèrent que le problème du désapprentissage de l'IA sera crucial dans les prochaines années, au regard notamment de la règlementation européenne sur la protection des données (RGPD)
  • Google DeepMind, spécialisée dans l'IA, s'est emparée du problème: des experts de la firme américaine ont publié le mois dernier, avec M. Kurmanji, un algorithme destiné à effacer des données au sein d'importants modèles de langage

PARIS : Quand Brian Hood a découvert que ChatGPT lui attribuait un passé criminel, ce politicien australien s'est retrouvé face à un casse-tête que des ingénieurs tentent désormais de résoudre: comment apprendre à l'intelligence artificielle (IA) à effacer des erreurs?

Ni la solution légale — en avril, Brian Hood a menacé de porter plainte pour diffamation contre la société OpenAI, à l'origine de ChatGPT — ni le reparamétrage complet des IA ne semble une solution satisfaisante: entraîner à nouveau le modèle s'avérerait particulièrement long et coûteux.

Or, les spécialistes considèrent que le problème du désapprentissage de l'IA sera crucial dans les prochaines années, au regard notamment de la règlementation européenne sur la protection des données (RGPD).

«La capacité à effacer des données au sein de bases d'apprentissage est un sujet majeur», confirme Lisa Given, professeur en sciences de l'information à l'université RMIT de Melbourne. Mais au regard du manque actuel de connaissances sur le fonctionnement des IA, le chemin est encore long, selon elle.

Devant la somme colossale de données sur lesquelles les IA sont entraînées, les ingénieurs cherchent plutôt une solution ciblée afin d'écarter des informations fausses de leur champ de connaissance et d'en arrêter la propagation.

Le sujet a pris de l'ampleur depuis trois à quatre ans, a confirmé à l'AFP le chercheur Meghdad Kurmanji, de l'université britannique de Warwick, expert du domaine.

Google DeepMind, spécialisée dans l'IA, s'est emparée du problème: des experts de la firme américaine ont publié le mois dernier, avec M. Kurmanji, un algorithme destiné à effacer des données au sein d'importants modèles de langage, comme ceux de ChatGPT ou de Bard, le modèle de Google.

- Correction de certains biais -

Et, entre juillet et septembre, plus de 1.000 participants se sont attelés à peaufiner des méthodes de «désapprentissage» des IA dans le cadre d'un concours lancé par l'entreprise américaine.

La méthode employée, commune aux autres recherches en la matière, consiste à introduire un algorithme ordonnant à l'IA de ne pas tenir compte de certaines informations apprises et n'implique pas de modifier la base de données.

Meghdad Kurmanji assure que ce procédé peut être «un outil très intéressant» pour permettre, par exemple, à des outils de recherche de répondre à des demandes de suppression, en conformité avec la protection des données personnelles.

L'algorithme mis au point s'est également montré performant dans la suppression de contenus protégés par des droits d'auteur ou dans la correction de certains biais, assure-t-il.

D'autres, comme le responsable de l'IA au sein de Meta (Facebook, Instagram) Yann LeCun, se montrent plus réticents.

«Je ne dis pas que c'est inutile, sans intérêt ou mauvais, mais je pense qu'il y a d'autres priorités», affirme-t-il à propos de cet algorithme auprès de l'AFP.

Pour Michael Rovatsos, professeur en intelligence artificielle à l'université d'Édimbourg, «la solution technique n'est pas la panacée».

Le «désapprentissage» ne permettrait pas, selon lui, de poser des questions plus larges, comme celle de savoir comment les données sont rassemblées, qui en tire profit ou encore à qui doit incomber la responsabilité des dommages engendrés par l'IA.

Si Brian Hood a vu son problème réglé, sans explication, une fois que son affaire a été suffisamment médiatisée pour corriger automatiquement les données traitées par ChatGPT (qui n'a pas répondu aux sollicitations de l'AFP), il considère que l'heure est encore aux méthodes artisanales.

«Il faut que les utilisateurs vérifient tout, dans les cas où les chatbots écrivent des âneries», affirme l'Australien.

 


Dina Powell McCormick, née en Égypte, nommée présidente et vice-présidente de Meta

Meta a nommé Dina Powell McCormick, née en Égypte, au poste de présidente et de vice-présidente. (AP/File Photo)
Meta a nommé Dina Powell McCormick, née en Égypte, au poste de présidente et de vice-présidente. (AP/File Photo)
Short Url
  • L'ancienne associée de Goldman Sachs et fonctionnaire de la Maison Blanche a précédemment siégé au conseil d'administration de Meta
  • Dina Powell McCormick, qui est née au Caire et a déménagé aux États-Unis lorsqu'elle était enfant, rejoint l'équipe de direction et contribuera à orienter la stratégie globale et l'exécution

LONDRES: Meta a nommé Dina Powell McCormick, née en Égypte, au poste de présidente et de vice-présidente.

L'entreprise a déclaré lundi que l'ancienne associée de Goldman Sachs et fonctionnaire de la Maison Blanche, qui a déjà siégé au conseil d'administration de Meta, accède à un rôle de direction de haut niveau, alors que l'entreprise accélère sa progression dans les domaines de l'intelligence artificielle et de l'infrastructure mondiale.

Powell McCormick, qui est née au Caire et a déménagé aux États-Unis dans sa jeunesse, rejoindra l'équipe de direction et contribuera à orienter la stratégie globale et l'exécution de l'entreprise. Elle travaillera en étroite collaboration avec les équipes de Meta chargées de l'informatique et de l'infrastructure, a indiqué l'entreprise, et supervisera les investissements de plusieurs milliards de dollars dans les centres de données, les systèmes énergétiques et la connectivité mondiale, tout en établissant de nouveaux partenariats stratégiques en matière de capital.

"L'expérience de Dina aux plus hauts niveaux de la finance mondiale, combinée à ses relations profondes dans le monde entier, la rend particulièrement apte à aider Meta à gérer cette prochaine phase de croissance en tant que présidente et vice-présidente de l'entreprise", a déclaré Mark Zuckerberg, fondateur et PDG de Meta.

Mme Powell McCormick a plus de 25 ans d'expérience dans les domaines de la finance, de la sécurité nationale et du développement économique. Elle a passé 16 ans en tant qu'associée chez Goldman Sachs à des postes de direction, et a servi deux présidents américains, notamment en tant que conseillère adjointe à la sécurité nationale de Donald Trump, et en tant que haut fonctionnaire du département d'État sous George W. Bush.

Plus récemment, elle a été vice-présidente et présidente des services à la clientèle mondiale de la banque d'affaires BDT & MSD Partners.


Eric Trump affirme que les réformes boursières de l'Arabie saoudite attireront des milliards de dollars

 Eric Trump a salué la décision de l'Arabie saoudite d'ouvrir son marché boursier aux investisseurs étrangers, affirmant que des milliards de dollars supplémentaires allaient affluer dans le Royaume. (AN)
Eric Trump a salué la décision de l'Arabie saoudite d'ouvrir son marché boursier aux investisseurs étrangers, affirmant que des milliards de dollars supplémentaires allaient affluer dans le Royaume. (AN)
Short Url
  • Dans le cadre du programme de diversification économique Vision 2030, l'Arabie saoudite vise à attirer 100 milliards de dollars d'investissements directs étrangers par an
  • "Chaque jour, l'environnement d'investissement s'améliore. Les plus grandes marques du monde viennent s'y installer. Toutes ces marques font énormément de bruit", a ajouté M. Trump

RIYAD: Eric Trump a salué la décision de l'Arabie saoudite d'ouvrir son marché boursier aux investisseurs étrangers, affirmant que des milliards de dollars supplémentaires allaient affluer dans le Royaume.

S'adressant à Asharq Al-Awsat, l'homme d'affaires, qui est le vice-président exécutif de la Trump Organization, a également fait l'éloge des récents projets de développement qui prennent forme à Riyad, en particulier à Diriyah.

Le Royaume a annoncé que ses marchés financiers seraient ouverts à tous les investisseurs étrangers à partir du 1er février, avec la suppression de restrictions telles que le cadre de l'investisseur étranger qualifié, qui exigeait un minimum de 500 millions de dollars d'actifs sous gestion, et l'abolition des accords de swap.

À propos de cette décision, M. Trump a déclaré : "Je pense que la nouvelle législation autorisant les investissements étrangers en Arabie saoudite va permettre à des milliards de dollars d'affluer sur le marché.

"Il est évident que l'ouverture des marchés boursiers eux-mêmes à de nouveaux investissements étrangers va entraîner l'arrivée de milliards de dollars supplémentaires sur le marché. Je pense que cela va aider le commerce, le tourisme et bien d'autres choses encore".

Selon M. Trump, l'environnement d'investissement en Arabie saoudite s'améliore au fil du temps, et de grandes marques du monde entier entrent sur le marché du Royaume pour en exploiter le potentiel.

Dans le cadre du programme de diversification économique Vision 2030, l'Arabie saoudite vise à attirer 100 milliards de dollars d'investissements directs étrangers par an.

"Chaque jour, l'environnement d'investissement s'améliore. Les plus grandes marques du monde viennent s'y installer. Toutes ces marques font énormément de bruit", a ajouté M. Trump.

Un rapport publié par l'Autorité générale des statistiques d'Arabie saoudite en décembre a révélé que les entrées nettes d'investissements directs étrangers ont atteint 24,9 milliards de SR (6,64 milliards de dollars) au troisième trimestre 2025, ce qui représente une augmentation de 34,5 % par rapport à la même période de l'année précédente.

M. Trump a fait ces commentaires alors que le promoteur immobilier saoudien Dar Global a annoncé qu'il lancerait deux projets de luxe portant la marque Trump à Riyad et à Djeddah, d'une valeur totale de 10 milliards de dollars.

Ces projets comprennent le Trump National Golf Course et le Trump International Hotel dans le quartier de Diriyah à Riyad.

Commentant l'attrait de l'Arabie saoudite, M. Trump a déclaré : "La vision de la ville, la vision de ce qui se passe à Riyad, en particulier à Diriyah, est incroyable. Je n'ai jamais rien vu de tel dans ma vie".

Il a ensuite ajouté : "La vision de ce que sera le nouveau Riyad, et la vision de l'ensemble de l'Arabie saoudite qui continue à s'ouvrir - vous voyez toutes ces grandes réformes financières, qui devraient rendre inévitable l'augmentation des investissements en Arabie saoudite. C'est incroyablement excitant.

M. Trump a poursuivi en déclarant que "les meilleurs jours pour l'Arabie saoudite sont à venir", ajoutant : "Même depuis six ou sept ans que je viens dans le pays, ce qui a été construit, ce qui a été fait, est incroyable. Et je pense que le pays devrait être incroyablement fier de lui-même".


Aux Etats-Unis, la Fed menacée de poursuites par le gouvernement

Le président de la Réserve fédérale (Fed), Jerome Powell, a annoncé dimanche que la banque centrale américaine était menacée de poursuites par le ministère de la Justice, s'ajoutant à de multiples pressions face à son refus de céder aux injonctions de Donald Trump sur les taux d'intérêt. (AFP)
Le président de la Réserve fédérale (Fed), Jerome Powell, a annoncé dimanche que la banque centrale américaine était menacée de poursuites par le ministère de la Justice, s'ajoutant à de multiples pressions face à son refus de céder aux injonctions de Donald Trump sur les taux d'intérêt. (AFP)
Short Url
  • La Fed a reçu une convocation de la part du ministère de la Justice qui pourrait conduire à une mise en accusation au pénal, sur la base d'une de ses auditions en juin qui concernait un projet de rénovation du bâtiment de la Fed
  • Cette convocation s'inscrit selon lui dans le climat de pressions exercé par le président américain Donald Trump sur l'institution, afin de la pousser à abaisser plus fortement ses taux

WASHINGTON: Le président de la Réserve fédérale (Fed), Jerome Powell, a annoncé dimanche que la banque centrale américaine était menacée de poursuites par le ministère de la Justice, s'ajoutant à de multiples pressions face à son refus de céder aux injonctions de Donald Trump sur les taux d'intérêt.

La Fed a reçu une convocation de la part du ministère de la Justice qui pourrait conduire à une mise en accusation au pénal, sur la base d'une de ses auditions en juin qui concernait un projet de rénovation du bâtiment de la Fed, a-t-il détaillé dans un communiqué.

Cette convocation s'inscrit selon lui dans le climat de pressions exercé par le président américain Donald Trump sur l'institution, afin de la pousser à abaisser plus fortement ses taux, alors que l'inflation reste toujours au-dessus de sa cible de 2%.

"Cette menace n'est pas au sujet de mon témoignage. C'est un prétexte, la menace de poursuites est la conséquence de la volonté de la Fed de décider de ses taux dans le meilleur intérêt du public plutôt que pour répondre aux préférences du président", a dénoncé M. Powell dans une vidéo publiée sur le site de la banque centrale.

Interrogé sur le sujet lors d'une interview accordée à la chaîne NBC, M. Trump assure qu'il "ne sai(t) rien à ce sujet. Je ne penserais même pas à le faire de cette manière. La seule pression qu'il doit sentir est dans le fait que les taux sont trop élevés. C'est la seule".

Le président américain a accusé la Fed de ne pas avoir respecté le budget prévu pour la rénovation de son siège à Washington, estimant qu'il pouvait y avoir des cas de fraude, et avançant un coût total de 3,1 milliards de dollars, contre 2,7 milliards prévus initialement, un chiffre que Jerome Powell dément.

Selon ce dernier, la vraie question est "de savoir si la Fed sera capable de continuer à déterminer ses taux en se basant sur les conditions économiques ou si la politique monétaire doit être dirigée par les pressions politiques et intimidations".

Avant même sa réélection, Donald Trump a accusé Jerome Powell, qu'il surnomme "trop tard", de ne pas agir suffisamment vite pour abaisser les taux et d'agir pour des motifs politiques et non économiques.

Une Fed sans président? 

Depuis son retour à la Maison Blanche, le républicain a continué à maintenir la pression, traitant notamment le président de la Fed de "nigaud" et cherchant le moyen de le licencier.

"J'ai servi la Fed sous quatre gouvernements, républicains et démocrates. A chaque fois, j'ai fait mon devoir sans peur ou faveur politique, concentré uniquement sur notre mandat. Je compte poursuivre le travail pour lequel le Sénat m'a confirmé", a insisté M. Powell.

Le chef des démocrates au Sénat, Chuck Schumer, a qualifié l'enquête d'attaque contre l'indépendance de la Fed. "Quiconque est indépendant et ne se contente pas de suivre Trump à la lettre fait l'objet d’une enquête", a-t-il dénoncé.

Le mandat du président de la Fed doit arriver à son terme en mai prochain, ce qui permettra à Donald Trump de le remplacer, potentiellement par son principal conseiller économique Kevin Hassett, considéré par les analystes comme le favori.

Mais le siège pourrait rester vacant "le temps que l'enquête suive son cours", a estimé le sénateur républicain Thom Tillis dans un communiqué, assurant qu'il ne confirmerait "aucune nomination pour la Fed, y compris pour son président tant que ce point juridique ne (serait) pas pleinement réglé".

"S'il existait encore le moindre doute sur le fait que certains conseillers au sein du gouvernement poussent pour mettre fin à l'indépendance de la Fed, ils sont désormais écartés. C'est à présent la crédibilité du ministère de la Justice qui est en jeu", a-t-il ajouté.

Si le président américain propose les candidats à un poste dans l'administration, y compris pour la banque centrale, ces derniers ne peuvent entrer en fonction tant que le Sénat n'a pas voté en leur faveur.

Outre Jerome Powell, Donald Trump a tenté de révoquer une autre responsable de la Fed, Lisa Cook, une décision repoussée momentanément par la Cour suprême.

Plus largement, le gouvernement américain a estimé en septembre dernier que le travail de la Fed devait faire l'objet d'une évaluation complète. Le secrétaire au Trésor, Scott Bessent, estime qu'elle "doit changer de cap".