Apprendre à désapprendre, un défi pour l'IA

Cette photo d'illustration prise le 30 octobre 2023 à Mulhouse, dans l'est de la France, montre des figurines à côté d'un écran affichant un logo de Google DeepMind, un laboratoire britannico-américain de recherche sur l'intelligence artificielle. (Photo Sebastien Bozon AFP)
Cette photo d'illustration prise le 30 octobre 2023 à Mulhouse, dans l'est de la France, montre des figurines à côté d'un écran affichant un logo de Google DeepMind, un laboratoire britannico-américain de recherche sur l'intelligence artificielle. (Photo Sebastien Bozon AFP)
Short Url
Publié le Samedi 09 décembre 2023

Apprendre à désapprendre, un défi pour l'IA

  • Les spécialistes considèrent que le problème du désapprentissage de l'IA sera crucial dans les prochaines années, au regard notamment de la règlementation européenne sur la protection des données (RGPD)
  • Google DeepMind, spécialisée dans l'IA, s'est emparée du problème: des experts de la firme américaine ont publié le mois dernier, avec M. Kurmanji, un algorithme destiné à effacer des données au sein d'importants modèles de langage

PARIS : Quand Brian Hood a découvert que ChatGPT lui attribuait un passé criminel, ce politicien australien s'est retrouvé face à un casse-tête que des ingénieurs tentent désormais de résoudre: comment apprendre à l'intelligence artificielle (IA) à effacer des erreurs?

Ni la solution légale — en avril, Brian Hood a menacé de porter plainte pour diffamation contre la société OpenAI, à l'origine de ChatGPT — ni le reparamétrage complet des IA ne semble une solution satisfaisante: entraîner à nouveau le modèle s'avérerait particulièrement long et coûteux.

Or, les spécialistes considèrent que le problème du désapprentissage de l'IA sera crucial dans les prochaines années, au regard notamment de la règlementation européenne sur la protection des données (RGPD).

«La capacité à effacer des données au sein de bases d'apprentissage est un sujet majeur», confirme Lisa Given, professeur en sciences de l'information à l'université RMIT de Melbourne. Mais au regard du manque actuel de connaissances sur le fonctionnement des IA, le chemin est encore long, selon elle.

Devant la somme colossale de données sur lesquelles les IA sont entraînées, les ingénieurs cherchent plutôt une solution ciblée afin d'écarter des informations fausses de leur champ de connaissance et d'en arrêter la propagation.

Le sujet a pris de l'ampleur depuis trois à quatre ans, a confirmé à l'AFP le chercheur Meghdad Kurmanji, de l'université britannique de Warwick, expert du domaine.

Google DeepMind, spécialisée dans l'IA, s'est emparée du problème: des experts de la firme américaine ont publié le mois dernier, avec M. Kurmanji, un algorithme destiné à effacer des données au sein d'importants modèles de langage, comme ceux de ChatGPT ou de Bard, le modèle de Google.

- Correction de certains biais -

Et, entre juillet et septembre, plus de 1.000 participants se sont attelés à peaufiner des méthodes de «désapprentissage» des IA dans le cadre d'un concours lancé par l'entreprise américaine.

La méthode employée, commune aux autres recherches en la matière, consiste à introduire un algorithme ordonnant à l'IA de ne pas tenir compte de certaines informations apprises et n'implique pas de modifier la base de données.

Meghdad Kurmanji assure que ce procédé peut être «un outil très intéressant» pour permettre, par exemple, à des outils de recherche de répondre à des demandes de suppression, en conformité avec la protection des données personnelles.

L'algorithme mis au point s'est également montré performant dans la suppression de contenus protégés par des droits d'auteur ou dans la correction de certains biais, assure-t-il.

D'autres, comme le responsable de l'IA au sein de Meta (Facebook, Instagram) Yann LeCun, se montrent plus réticents.

«Je ne dis pas que c'est inutile, sans intérêt ou mauvais, mais je pense qu'il y a d'autres priorités», affirme-t-il à propos de cet algorithme auprès de l'AFP.

Pour Michael Rovatsos, professeur en intelligence artificielle à l'université d'Édimbourg, «la solution technique n'est pas la panacée».

Le «désapprentissage» ne permettrait pas, selon lui, de poser des questions plus larges, comme celle de savoir comment les données sont rassemblées, qui en tire profit ou encore à qui doit incomber la responsabilité des dommages engendrés par l'IA.

Si Brian Hood a vu son problème réglé, sans explication, une fois que son affaire a été suffisamment médiatisée pour corriger automatiquement les données traitées par ChatGPT (qui n'a pas répondu aux sollicitations de l'AFP), il considère que l'heure est encore aux méthodes artisanales.

«Il faut que les utilisateurs vérifient tout, dans les cas où les chatbots écrivent des âneries», affirme l'Australien.

 


En Grèce, des seniors en quête d'habitat partagé face à la précarité

Une femme vérifie le plan d'un appartement qu'elle envisage d'habiter avec un colocataire à Athènes le 14 février 2024, dans le cadre de ce que l'on appelle le "logement solidaire". (AFP).
Une femme vérifie le plan d'un appartement qu'elle envisage d'habiter avec un colocataire à Athènes le 14 février 2024, dans le cadre de ce que l'on appelle le "logement solidaire". (AFP).
Short Url
  • Depuis que la Grèce a tourné la page des années de crise financière, les loyers ont augmenté de plus de 20% à Athènes, selon la Banque de Grèce
  • Dans un pays à la population vieillissante, l'idée d'habitat partagé entre personnes âgées gagne du terrain face au recul de l'Etat providence, l'augmentation des loyers et la cherté de la vie

ATHENES: Dans un café athénien, Malamo, Thalia, Maria et Tonia se penchent sur les plans d'un immeuble appelé à être rénové pour devenir une "habitation solidaire" pour seniors, une première en Grèce face à la précarité grandissante des personnes âgées.

Dans un pays à la population vieillissante, l'idée d'habitat partagé entre personnes âgées gagne du terrain face au recul de l'Etat providence, l'augmentation des loyers et la cherté de la vie.

"Les prestations sociales diminuent, les retraites restent basses et les prix des logements s'envolent ce qui accroît le sentiment" de précarité, explique à l'AFP Malamo Stergiou, ancienne employée du privé aujourd'hui en retraite.

Depuis que la Grèce a tourné la page des années de crise financière, les loyers ont augmenté de plus de 20% à Athènes, selon la Banque de Grèce.

Pour Malamo Stergiou tout est parti il y a deux ans du groupe Facebook baptisé "Kinotites sygatikikis" (communautés de cohabitation) qu'elle a fondé "pour les seniors et les non seniors".

Rapidement ce groupe dont la vocation est de promouvoir l'habitat partagé entre seniors, a atteint 8.000 abonnés.

En septembre dernier, Malamo Stergiou fonde l'ONG Nama pour financer la rénovation d'un immeuble de quatre étages à Athènes, proposé par son propriétaire pour un loyer modéré.

La bâtiment qui date de 1938 comprendra "15 appartements indépendants et des espaces communs pour la vie sociale des locataires", détaille-elle.

La rénovation va commencer "dès que possible", ajoute-t-elle et les habitants ne payeront qu'un loyer modéré.

Comme la majorité des adeptes du projet, Malamo Stergiou vit seule. Sa fille unique travaille à l'étranger.

« Ecroulement démographique »

Le départ de nombreux jeunes partis pour de meilleurs salaires à l'étranger pendant la crise a frappé de plein fouet la famille traditionnelle grecque : de nombreuses personnes âgées se sont retrouvées seules sans le soutien de leurs enfants.

"Ce qui manque c'est la solidarité face aux problèmes quotidiens, financiers ou émotionnels", résume Thalia Novaki, fonctionnaire retraitée.

Depuis plus d'un an, un autre groupe Facebook avec le même but a vu le jour à Thessalonique, la deuxième ville de Grèce.

"J'ai peur de la solitude, je ne suis pas propriétaire et l'idée de cohabiter me réjouit", confie Olympia Manoussoyannaki, professeure du secondaire, proche de l'âge de la retraite.

Des membres du collectif ont visité des structures en Allemagne et au Danemark pour s'informer sur "les outils nécessaires pour y arriver", relève Filippos Polatsidis, 48 ans, employé, l'un des fondateurs du collectif.

Avec 22,7% de sa population âgée de 65 ans et plus en 2021, la Grèce figure en quatrième position sur la liste des 27 pays de l'UE ayant le plus grand nombre de personnes âgées après l'Italie (23,8%), le Portugal (23,7%) et le Finlande (23,1%), selon Eurostat.

Et avec un taux de fécondité à 1,43 enfant par femme en 2021, la Grèce reste en dessous de la moyenne de l'UE (1,53 en 2021), selon Eurostat.

Pour le Premier ministre Kyriakos Mitsotakis, la Grèce subit un "écroulement démographique" et le vieillissement de la population constitue "un danger national".

Mesures « inclusives »

Pour y parer, le gouvernement a annoncé une hausse de la prime à la naissance, à 2.400 euros pour le premier enfant, 2.700 euros au deuxième et à 3.000 euros au troisième.

Mais des experts préviennent que les mesures ne doivent pas seulement viser à accroître les naissances.

"Il faut répondre aux besoins des familles" avec des infrastructures pour la garde des enfants et des aides aux parents et "à ceux des personnes âgées", estime Valia Aranitou, professeure de Sociologie à l'Université d'Athènes.

Le déclin démographique se manifeste surtout en province. Athènes et Thessalonique rassemblent à elles deux presque la moitié des 10,4 millions d'habitants du pays.

Petrokerassa, un village près de Thessalonique, qui a perdu plus de la moitié de sa population ces dernières décennies, ne compte plus que 137 habitants dont 80% de seniors.

"Nous sommes ici tous seuls avec nos problèmes. L'hiver si on appelle à l'aide, personne ne nous entend. On n'a même pas un magasin pour les produits nécessaires", déplore Thodoris Yannoudis, 62 ans, bûcheron.


La transformation de l’économie saoudienne crée des opportunités, selon un responsable du PIF

S'exprimant lors du forum Future Investment Initiative Priority à Miami, Jerry Todd a présenté les trois piliers de la transformation de l'économie saoudienne (Capture d'écran/FII Priority).
S'exprimant lors du forum Future Investment Initiative Priority à Miami, Jerry Todd a présenté les trois piliers de la transformation de l'économie saoudienne (Capture d'écran/FII Priority).
Short Url
  • Selon Jerry Todd, les changements économiques structurels en Arabie saoudite requièrent des ressources et des talents, des capitaux et des capacités d'exploitation au niveau mondial
  • Un ancien secrétaire au Trésor américain a souligné les opportunités d'investissement dans les énergies propres et la transformation énergétique dans le Moyen-Orient élargi

LONDRES: Il est important que les investisseurs comprennent les changements structurels à long terme de l'économie saoudienne qui sont en cours et les opportunités qu'ils offrent, a déclaré jeudi le chef de la division du développement national du Fonds d'investissement public saoudien.

S'exprimant lors du forum «Future Investment Initiative Priority» à Miami, Jerry Todd a déclaré que les trois piliers de cette transformation sont l'industrialisation de l'économie, le développement et l'expansion des secteurs de services, et le renforcement des capacités en matière d'énergie verte.

«La Vision 2030 est le plan directeur de cette transformation économique. Il s'agit d'un projet national, mais il nécessite des ressources, des talents, des capitaux et des capacités d'exploitation à l'échelle mondiale», a-t-il indiqué. «L'attraction de ces ressources en Arabie saoudite fait partie intégrante de ce plan.»

«La question de savoir ce qui va se passer ensuite dépend vraiment de la capacité des personnes présentes dans cette salle, et des personnes présentes dans des salles comme celle-ci, à apprendre davantage et à essayer de comprendre ce qui se passe en Arabie saoudite. Personnellement, je suis optimiste, je pense qu'il y a une prise de conscience croissante des opportunités qui sont créées», a ajouté Todd.

«Une autre chose qui est en train de changer est la capacité de l’économie nationale d’absorber les investissements à long terme, en grande partie grâce à la construction de l’industrie qui se déroule dans le cadre de la Vision 2030. Il s’agit de créer des occasions pour les gens de saisir des opportunités au niveau des actifs», a-t-il expliqué.

L'ancien secrétaire au Trésor américain Steven Mnuchin (Capture d'écran/FII Priority).

L'ancien secrétaire au Trésor américain Steven Mnuchin s'est fait l'écho de ce sentiment et a indiqué qu'il existait de nombreuses opportunités d'investissement dans la région du Moyen-Orient élargi en ce qui concerne l'énergie propre et la transformation énergétique.

Il a toutefois prévenu que pour que la région reste un pôle d'investissement attractif, il fallait s'attaquer à la menace que l'Iran fait peser sur la stabilité et la sécurité régionales, principalement en imposant des sanctions plus sévères et plus rigoureuses à l'encontre du régime de Téhéran.

Ce texte est la traduction d’un article paru sur Arabnews.com


L'économie de Gaza s'est contractée de 80% au 4e trimestre, rapporte la Banque mondiale

Des Palestiniens déplacés se rassemblent pour recevoir de la nourriture dans une école publique de Rafah (Photo, AFP).
Des Palestiniens déplacés se rassemblent pour recevoir de la nourriture dans une école publique de Rafah (Photo, AFP).
Short Url
  • Au-delà de l'impact humain dévastateur, «presque toute l'activité économique à Gaza est paralysée»
  • Cette baisse trimestrielle de 80% équivaut à une baisse annuelle de 24%, détaille la Banque mondiale

WASHINGTON: L'économie de Gaza s'est contractée de plus de 80% au quatrième trimestre de l'année, a rapporté jeudi la Banque mondiale, qui a par ailleurs annoncé une subvention de 30 millions de dollars pour maintenir une éducation pour les enfants.

Le produit intérieur brut (PIB) de Gaza a "chuté de plus de 80%" au 4e trimestre 2023 - soit les trois mois d'octobre à décembre - par rapport au 3e trimestre, passant d'environ 670 millions de dollars à seulement 90 millions, a indiqué la Banque mondiale dans un communiqué, citant les estimations préliminaires du Bureau central palestinien des statistiques.

Cette baisse trimestrielle de 80% équivaut à une baisse annuelle de 24%, détaille la Banque mondiale, qui précise que "le niveau observé de dommages et de destructions d'immobilisations est catastrophique".

Au-delà de l'impact humain dévastateur, "presque toute l'activité économique à Gaza est paralysée", a souligné la Banque mondiale.

"Depuis le début du conflit, l'économie palestinienne a connu l'un des chocs les plus importants enregistrés dans l'histoire économique récente", est-il encore précisé, et "presque tous les habitants de Gaza vivront dans la pauvreté, du moins à court terme".

La Banque mondiale a par ailleurs annoncé jeudi une subvention de 30 millions de dollars "pour aider à assurer la continuité de l'éducation cruciale pour les enfants".

"Cette subvention contribuera au secteur de l'éducation pour garantir que les élèves ne ratent pas l'éducation fondamentale", a-t-il déclaré dans un communiqué.