Intelligence artificielle: les eurodéputés veulent réguler ChatGPT

Mieux encadrer les applications conversationnelles comme ChatGPT: les eurodéputés voteront jeudi sur le futur règlement de l'Union européenne sur l'intelligence artificielle (IA), texte ambitieux retardé par les controverses entourant ces technologies. (AFP)
Mieux encadrer les applications conversationnelles comme ChatGPT: les eurodéputés voteront jeudi sur le futur règlement de l'Union européenne sur l'intelligence artificielle (IA), texte ambitieux retardé par les controverses entourant ces technologies. (AFP)
Short Url
Publié le Mardi 09 mai 2023

Intelligence artificielle: les eurodéputés veulent réguler ChatGPT

  • L'Union européenne veut être la première au monde à se doter d'un cadre juridique complet pour limiter les dérives de L'IA, tout en sécurisant l'innovation
  • Les eurodéputés souhaitent contraindre les fournisseurs à mettre en place des protections contre les contenus illégaux et à révéler les données protégées par les droits d'auteur utilisées pour développer leurs algorithmes

BRUXELLES: Mieux encadrer les applications conversationnelles comme ChatGPT: les eurodéputés voteront jeudi sur le futur règlement de l'Union européenne sur l'intelligence artificielle (IA), texte ambitieux retardé par les controverses entourant ces technologies.

L'Union européenne veut être la première au monde à se doter d'un cadre juridique complet pour limiter les dérives de L'IA, tout en sécurisant l'innovation.

D'une grande complexité technique, les systèmes d'intelligence artificielle fascinent autant qu'ils inquiètent.

Diffusion de contenus dangereux, manipulation de l'opinion par la création de fausses images avec des logiciels comme Midjourney, systèmes de surveillance de masse, ou risques encore inconnus... Des personnalités de la tech, comme le patron de Twitter, Elon Musk, ont même réclamé un moratoire sur leur développement.

Le grand public a découvert leur potentiel immense à la fin de l'année dernière avec la sortie du générateur de contenus rédactionnels ChatGPT de la société californienne OpenAI, capable de rédiger des dissertations, des poèmes ou des traductions en quelques secondes.

Face à ces bouleversements rapides, la Commission européenne a proposé il y a deux ans un projet de législation dont l'examen traîne en longueur.

Les États membres de l'UE ont seulement défini leur position fin 2022. Les eurodéputés, très divisés, entérineront la leur jeudi dans un vote en commissions à Strasbourg qui devrait être confirmé en plénière en juin. S'ouvrira ensuite une négociation difficile entre les différentes institutions.

La vice-présidente de la Commission européenne Margrethe Vestager a appelé lundi à ne pas perdre de temps. "J'espère vraiment que nous pourrons terminer cette année", a-t-elle dit.

Le retard s'explique en partie par l'irruption dans le débat public des intelligences artificielles dites à usage général (capables d'accomplir une grande variété de tâches), dont font partie les IA génératives comme ChatGPT.

Plus de transparence 

"C'est un texte complexe et nous avons ajouté un régime nouveau de règles dédié aux IA génératives", a expliqué à l'AFP le corapporteur Dragos Tudorache.

Les eurodéputés souhaitent contraindre les fournisseurs à mettre en place des protections contre les contenus illégaux et à révéler les données protégées par les droits d'auteur utilisées pour développer leurs algorithmes.

Mais des experts considèrent que les risques des IA génératives ne nécessitent pas de traitement séparé. "Je ne vois pas la motivation du Parlement. Je ne vois pas en quoi ces risques sont différents de ce qui a déjà été anticipé", a commenté pour l'AFP Pierre Larouche, expert en droit du numérique à l'Université de Montréal et chercheur au Center on Regulation in Europe (Cerre).

La proposition de la Commission, dévoilée en avril 2021, prévoit déjà un encadrement des systèmes d'IA qui interagissent avec les humains. Elle les obligera à informer l'utilisateur qu'il est en relation avec une machine et contraindra les applications générant des images à préciser qu'elles ont été créées artificiellement.

Le texte s'inspire des réglementations européennes existantes en matière de sécurité des produits et imposera des contrôles reposant d'abord sur les entreprises.

Les interdictions seront rares. Elles concerneront les applications contraires aux valeurs européennes comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine.

Les eurodéputés veulent y ajouter l'interdiction des systèmes de reconnaissance des émotions et supprimer les dérogations autorisant l'identification biométrique à distance des personnes dans les lieux publics par les forces de l'ordre.

Ils entendent aussi interdire la récolte en masse de photos sur internet pour entraîner les algorithmes sans l'accord des personnes concernées.

Le cœur du projet consiste en une liste de règles imposées aux seules applications qui seront jugées à "haut risque" par les entreprises elles-mêmes à partir des critères du législateur. La Commission européenne a proposé qu'elles concernent les systèmes utilisés dans des domaines sensibles comme les infrastructures critiques, l'éducation, les ressources humaines, le maintien de l'ordre ou la gestion des migrations...

Parmi les obligations: un contrôle humain sur la machine, établissement d'une documentation technique, ou encore mise en place d'un système de gestion du risque... Leur respect sera contrôlé par des autorités de surveillance désignées dans chaque pays membre.

Les eurodéputés veulent des critères plus stricts pour restreindre la classification "haut risque" aux seuls produits pouvant menacer la sécurité, la santé ou les droits fondamentaux.


Concurrence: 34 organisations affirment qu'Apple se moque des nouvelles règles de

Le PDG d'Apple, Tim Cook, écoute le président des États-Unis, Joe Biden, lors d'une table ronde avec des chefs d'entreprise américains et indiens dans la salle Est de la Maison-Blanche, le 23 juin 2023 à Washington, DC. (Photo Anna Moneymaker Getty Images North America Getty Images via AFP)
Le PDG d'Apple, Tim Cook, écoute le président des États-Unis, Joe Biden, lors d'une table ronde avec des chefs d'entreprise américains et indiens dans la salle Est de la Maison-Blanche, le 23 juin 2023 à Washington, DC. (Photo Anna Moneymaker Getty Images North America Getty Images via AFP)
Short Url
  • «Nous sommes très préoccupés par le fait que le plan proposé par Apple pour se conformer au règlement sur les marchés numériques (DMA) (...) ne répondra pas aux exigences de cette législation», ont écrit ces groupes issus de plusieurs pays européens
  • Ce nouveau règlement entend mettre fin aux abus de position dominante dont ils sont accusés, et leur impose une série d'obligations et d'interdictions, sous peine de très lourdes amendes

BRUXELLES : Un groupe de 34 entreprises ou associations professionnelles, actives dans l'économie numérique, dénonce dans une lettre à la Commission européenne les mesures annoncées par Apple pour se conformer à partir de jeudi aux nouvelles règles renforcées de concurrence dans l'UE.

«Nous sommes très préoccupés par le fait que le plan proposé par Apple pour se conformer au règlement sur les marchés numériques (DMA) (...) ne répondra pas aux exigences de cette législation», ont écrit ces groupes issus de plusieurs pays européens.

Parmi les signataires se trouvent les services de streaming musical Deezer et Spotify, l'association de start-up France digitale, l'association européenne de la Fintech EFA (technologies financières) ou encore l'Association européenne des éditeurs de journaux ENPA.

Leur courrier, daté du 1er mars, est adressé aux commissaires européens Thierry Breton et Margrethe Vestager, chargés de la nouvelle législation.

Apple, ainsi que cinq autres géants du numérique - Alphabet (Google), Amazon, Meta (Facebook, Instagram), Microsoft et ByteDance (TikTok) -, ont jusqu'au 7 mars pour se mettre en règle avec le DMA.

Ce nouveau règlement entend mettre fin aux abus de position dominante dont ils sont accusés, et leur impose une série d'obligations et d'interdictions, sous peine de très lourdes amendes.

Ouvertement hostile au DMA, Apple avait annoncé le 25 janvier plusieurs modifications de son système d'exploitation iOS, qui équipe ses célèbres téléphones iPhone.

La marque à la pomme affirme par exemple qu'elle autorisera des magasins d'applications concurrents de son App Store et qu'elle s'ouvrira à d'autres services de paiement sans contact que sa solution Apple Pay, comme elle y est contrainte.

«Les nouvelles conditions d'Apple non seulement ignorent l'esprit et la lettre de la loi, mais si elles restent inchangées, elles tournent en dérision le DMA», estiment pourtant les 34 organisations dans leur missive.

Depuis le début de l'année, les groupes concernés par le DMA multiplient les annonces pour se conformer.

Mais de nombreux experts ou entreprises du secteur ont exprimé des doutes sur l'efficacité réelle de ces changements, dénonçant des réformes de façade qui n'apporteront pas les bénéfices attendus pour les consommateurs et les entreprises concurrentes.

«Une fois les solutions de mise en conformité connues la semaine prochaine, elles devront être analysées correctement par la Commission et les parties prenantes, dans leur intégralité et pas seulement sur la base de quelques annonces», a souligné samedi la Commission, contactée par l'AFP au sujet de la lettre. «Nous n'hésiterons pas à agir», en cas d'infraction, a-t-elle prévenu.

Apple est particulièrement visé par le DMA, car le géant californien a construit son succès sur un écosystème fermé dont il contrôle tous les paramètres, invoquant une sécurité accrue pour ses utilisateurs. Cette philosophie est en opposition frontale avec l'ouverture à la concurrence prônée par l'UE.


Pressé par l'IA, Washington revoit sa politique des données sensibles face à Pékin

Le président américain Joe Biden rencontre la Première ministre italiennne Giorgia Meloni dans le bureau ovale de la Maison Blanche à Washington, DC, le 1er mars 2024. (Photo Saul Loeb  AFP)
Le président américain Joe Biden rencontre la Première ministre italiennne Giorgia Meloni dans le bureau ovale de la Maison Blanche à Washington, DC, le 1er mars 2024. (Photo Saul Loeb AFP)
Short Url
  • Le président américain Joe Biden a signé cette semaine un décret visant à limiter le transfert de données sensibles vers les pays dits à risque, au premier rang desquels la Chine
  • Aux Etats-Unis, données génétiques, biométriques, de santé ou financières sont achetées et vendues régulièrement par des courtiers spécialisés, sans être nécessairement anonymisées, et il peut être très simple de reconstituer le profil d'une personne

WASHINGTON, États-Unis : Pendant longtemps, les Etats-Unis se préoccupaient peu de la question des données personnelles et de leur usage mais la montée en puissance de l'intelligence artificielle (IA) et l'opposition stratégique avec la Chine dans le domaine technologique forcent Washington à revoir son approche.

Le président américain Joe Biden a signé cette semaine un décret visant à limiter le transfert de données sensibles vers les pays dits à risque, au premier rang desquels la Chine.

Dans la foulée, l'ouverture d'une enquête sur les véhicules connectés chinois, ou les logiciels et équipements chinois embarqués dans des véhicules connectés construits ailleurs, était annoncée.

A chaque fois, le motif avancé est simple: la sécurité nationale.

De l'avis de Lindsay Gorman, chercheuse au German Marshall Fund, ces décisions sont le signe que Washington reconnaît «enfin la valeur stratégique et en terme de sécurité nationale des données».

En particulier, l'enquête lancée concernant les véhicules connectés est «un coup de projecteur longtemps attendu sur l'aspect applicatif du futur internet».

Car, au-delà de la question de l'IA, le futur d'internet repose en grande partie sur le décollage de l'internet des objets (IoT), qui doit connecter tout, tout le temps, au réseau mondial, générant des monceaux de données et dont la voiture connectée est l'exemple le plus évident et visible.

Mais cela va plus loin: aux Etats-Unis, données génétiques, biométriques, de santé ou financières sont achetées et vendues régulièrement par des courtiers spécialisés, sans être nécessairement anonymisées, et il peut être très simple de reconstituer le profil d'une personne.

- Restrictions pour les courtiers -

Une étude publiée en novembre par l'Université de Duke pointait ainsi avec quelle facilité on trouvait des données sensibles sur des militaires en exercice auprès de courtiers et pour quelques centimes par dossier.

Le décret publié par la Maison Blanche vise justement à encadrer les pratiques des courtiers, «il leur impose quelques restrictions, ce qui est très positif», estime Martin Chorzempa, chercheur au PIIE.

Certes, les règles sur les investissements «limitaient la possibilité pour des entreprises étrangères d'acheter des sociétés américaines et ainsi accéder aux données qu'elles possèdent. Mais elles pouvaient acheter les données, c'était une faille», ajoute-t-il.

Les décisions de Washington soulignent désormais «une inquiétude plus générale sur le risque que peut représenter ce flot de données accessibles en terme de sécurité nationale», confirme Emily Benson, chercheuse au Centre pour les études stratégiques et internationales (CSIS).

«On assiste a un recalibrage de l'approche américaine» qui consistait jusqu'ici à défendre le libre usage des données, une époque «qui semble désormais révolue», poursuit Mme Benson.

La question des données vient en particulier s'intégrer dans l'effort plus large des Etats-Unis pour s'assurer de conserver une longueur sur la Chine dans le domaine technologique.

En l'espèce, beaucoup a déjà été fait: sortir Huawei du jeu des réseaux 5G aux Etats-Unis, réduire l'accès des entreprises chinoises aux semi-conducteurs les plus performants tout en recréant une vraie filière du semi-conducteurs aux Etats-Unis, via les investissements prévus dans le Chips Act.

- Rattrapage américain -

Le développement rapide de l'IA vient désormais poser de manière encore plus aiguë la question des données, du risque qu'elles impliquent et la manière de mieux les protéger, des questions sur lesquelles l'Union européenne ou l'Inde ont avancé depuis de nombreuses années, de même que la Chine.

«La Chine a largement développé son propre système de protection des données, avec d'importantes restrictions concernant le transfert de données vers l'étranger» rappelle ainsi Martin Chorzempa, «au point de risquer à un moment de se découpler elle-même du reste du monde» sur ce point.

Si depuis Pékin a sensiblement corrigé le tir, les conditions permettant de sortir des données de Chine restent particulièrement floues.

Pourtant, l'ambassade de Chine a dénoncé cette semaine des mesures qu'elle estime «discriminatoires» ainsi que la «généralisation du concept de sécurité nationale» par les Etats-Unis.

Mais «il est difficile de tenir compte de ces plaintes», estime M. Chorzampa, «compte tenu du fait qu'ils font exactement la même chose et qu'ils estiment eux-mêmes qu'il s'agit d'une question de sécurité nationale».

Cependant, si les Etats-Unis font un pas vers le contrôle du flux des données sensibles et personnelles, ils restent loin des mesures existantes ailleurs, telles que le RGPD en Europe ou les règles équivalentes en Inde et au Japon.

Et les restrictions visent surtout la Chine: «les entreprises venant de pays qui ne sont pas considérés comme des menaces ne devraient pas être touchées», assure Martin Chorzempa.

Tant qu'elles n'envoient pas leurs données en Chine.


Au Kirghizstan, des minis glaciers artificiels pour sauver les fermiers

Des cavaliers circulent dans une rue du village de Syn-Tash, à une soixantaine de kilomètres de Bichkek, le 13 février 2024. Dans les montagnes du Tian-Shan, au Kirghizstan, des villageois ont créé un glacier artificiel pour approvisionner en eau leurs fermes frappées par la sécheresse. (Photo de Vyacheslav Oseledko AFP)
Des cavaliers circulent dans une rue du village de Syn-Tash, à une soixantaine de kilomètres de Bichkek, le 13 février 2024. Dans les montagnes du Tian-Shan, au Kirghizstan, des villageois ont créé un glacier artificiel pour approvisionner en eau leurs fermes frappées par la sécheresse. (Photo de Vyacheslav Oseledko AFP)
Short Url
  • Pour élever ce stupa de glace, toute la population environnante a œuvré deux semaines durant à l'automne afin de détourner d'une gorge l'eau d'un torrent montagneux provenant des sommets du Tian-Shan
  • Dans le nord du Kirghizstan, pays habitué aux révolutions et jacqueries, le manque d'eau a déjà provoqué des tensions sociales lors des précédents étés arides

SYN-TASH, Kirghizstan : Debout sur une colline artificielle de glace érigée dans le majestueux massif montagneux du Tian-Shan au Kirghizstan, l'éleveur Erkinbek Kaldanov se veut optimiste: «Désormais, nous n'aurons plus de problème avec l'eau», la sécheresse devenant un défi croissant en raison du changement climatique.

Sous ses pieds s'étend un monticule de glace d'une vingtaine de mètres de large et cinq de haut. Au cœur de l'hiver, il culminait à douze mètres.

Inquiet pour ses moutons l'an dernier après des pics de chaleur anormaux, M. Kaldanov veut croire que cette année sera moins difficile, car «quand le glacier artificiel fondra, il y aura de l'eau pour faire boire le bétail et irriguer les terres à Syn-Tash», son district.

Pour élever ce stupa de glace, toute la population environnante a œuvré deux semaines durant à l'automne afin de détourner d'une gorge l'eau d'un torrent montagneux provenant des sommets du Tian-Shan, le massif qui culmine à plus de 4.000 mètres d'altitude dans cette zone du nord du Kirghizstan, pays agricole.

Si Erkinbek Kaldanov doit compter sur cette solution, c'est que les glaciers naturels d'Asie centrale, principale ressource hydrique de la région, disparaissent peu à peu sous l'effet du réchauffement climatique.

Selon une étude de 2023 publiée dans la revue de référence «Science», l'accélération de la fonte des glaciers centrasiatiques, principalement situés au Kirghizstan et au Tadjikistan, atteindra un pic entre 2035 et 2055. A cela s'ajoute le manque de neige, dû lui aussi à la hausse des températures, qui ne leur permet plus de se régénérer.

- «Moins en moins d'eau» -

L'étendue du problème est visible sur les images satellites et régulièrement soulignée par les Nations unies. Tous les pays de la zone sont concernés, dont ceux, majoritairement désertiques, situés en aval: le Kazakhstan, l'Ouzbékistan et le Turkménistan.

De quoi alimenter les conflits latents entre les États, qui dépendent encore d'un complexe système de partage des eaux hérité de la période soviétique et aujourd'hui obsolète.

«Le réchauffement climatique touche aussi l'Asie centrale, il y a de moins en moins d'eau chaque année, les nappes phréatiques se vident, les sources s'assèchent et nous avons des problèmes avec les pâturages», résume pour l'AFP Aïdos Yzmanaliev, porte-parole des fermiers de Syn-Tash.

Trouver des solutions devient urgent, d'autant que l'agriculture représente officiellement environ 10% de la fragile économie kirghize et que deux-tiers des habitants vivent en zone rurale. Dans le nord du Kirghizstan, pays habitué aux révolutions et jacqueries, le manque d'eau a déjà provoqué des tensions sociales lors des précédents étés arides.

Avec les stupas de glace, «notre but principal est de fournir de l'eau au bétail, car la majorité des 8.400 habitants de la communauté de communes de Syn-Tash sont des agriculteurs et des éleveurs», explique à l'AFP son dirigeant, Maksat Djoldochev.

«Nous prévoyons de construire deux ou trois glaciers artificiels supplémentaires pour irriguer les terres arables» poursuit-il.

- Concept simple -

L'idée et la réalisation sont relativement simples. «L'eau est tirée à trois kilomètres depuis une source de montagne via des tuyaux souterrains, puis elle jaillit en fontaine et gèle, formant le glacier», synthétise M. Yzmanaliev. Le coût est relativement modeste, 550.000 soms (environ 5.700 euros).

«Outre le fait de fournir de l'eau liquide à sa fonte, le glacier fait également baisser la température ambiante et dégage de l'humidité qui se transmet à la végétation autour, broutée par le bétail du printemps à l'automne», poursuit M. Yzmalaniev.

Né dans l'Himalaya indien en 2014 et encore peu répandu au niveau mondial hormis au Chili et expérimenté en Suisse, le concept a été importé en 2020 au Kirghizstan par Abdilmalik Eguemberdiev, dirigeant de l'association kirghize des utilisateurs des pâturages.

«Nous avons maintenant 24 glaciers artificiels à travers le pays et d'autres doivent voir le jour», se félicite-t-il auprès de l'AFP.

De plus, «grâce aux glaciers artificiels, qui fondent entre début avril et mi-juin, les fermiers peuvent garder leur bétail jusqu'à deux mois et demi de plus dans les pâturages de printemps au lieu de les envoyer vers les pâturages estivaux». De quoi ralentir l'érosion des sols, un autre problème endémique en Asie centrale.