Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023.  (Photo Patrick T. Fallon AFP)
Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023. (Photo Patrick T. Fallon AFP)
Short Url
Publié le Mardi 21 novembre 2023

Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

  • Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés
  • Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains

SAN FRANCISCO, États-Unis : Roi de l'intelligence artificielle générative depuis un an, OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l'IA.

Lundi soir, près de 700 des quelque 770 employés de la start-up californienne avaient signé la lettre promettant leur départ si le conseil d'administration refusait de démissionner, selon plusieurs médias.

Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés, ont rapporté des médias américains.

Pour Brendan Dolan-Gavitt, professeur d'informatique à l'université NYU Tandon, cette thèse est validée par l'arrivée d'Emmett Shear, désigné pour succéder à Sam Altman. «Il a souvent exprimé sa préoccupation quant à la sûreté de l'intelligence artificielle», rappelle l'universitaire.

«On en est arrivé là parce que de minuscules risques ont été amplifiés par des esprits amateurs de science-fiction et des journalistes à sensation», a dénoncé, dans une tribune publié par le site The Information, Vinod Khosla, fondateur de la société de capital-investissement Khosla Ventures, actionnaire d'OpenAI.

Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains.

«Il est temps de s'intéresser aux risques de l'IA, mais pas au point de ralentir le progrès et de nous priver de ses avantages», a plaidé Vinod Khosla.

Les événements des derniers jours ont mis en évidence les limites du modèle d'OpenAI, qui voulait placer sous le contrôle d'une holding à but non lucratif une société sur laquelle des acteurs financiers ont misé des milliards de dollars.

Les administrateurs «avaient perdu le sens des réalités», a estimé Carolina Milanesi, du cabinet Creative Strategies. «Comment pouvez-vous rester une société à but non lucratif une fois que vous acceptez ces montants de gens comme Microsoft?»

Le géant de Redmond (Etat du Washington) a débloqué, selon plusieurs médias, une enveloppe de dix milliards de dollars pour son partenariat avec OpenAI, notamment en lui offrant des capacités massives de traitement des données pour développer ses modèles.

- Microsoft en vainqueur –

La séquence «met en lumière le fait qu'on ne peut pas laisser les entreprises auto-réguler l'IA, alors qu'il existe des divergences au sein de leur propre gouvernance», a commenté, sur X (ex-Twitter), Gary Marcus, spécialiste d'intelligence artificielle et entrepeneur.

«S'il vous plaît, ne renoncez pas à l'+AI Act+; nous en avons plus besoin que jamais», a-t-il poursuivi, en référence au texte destiné à encadrer l'intelligence artificielle et en cours de discussion au sein de l'Union européenne.

Le schisme d'OpenAI «va accélérer beaucoup de choses sur le front de la régulation», a prévenu Ryan Steelberg, directeur général de Veritone, société d'analyse de données grâce à l'IA.

Pour autant, «cela ne va pas ralentir la course à l'IA générative», prévient Carolina Milanesi. «Il s'agit simplement de péripéties de salle de réunion, qui mettent Microsoft en meilleure position.»

Même si la situation est loin d'être figée chez OpenAI, le créateur de Windows apparaît déjà comme le grand vainqueur de cette saga.

Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI.

Selon Miguel Fierro, cadre de Microsoft, le directeur général Satya Nadella s'est engagé à embaucher tous les salariés d'OpenAI qui choisiraient de démissionner, faute de départ des administrateurs.

Le géant des systèmes d'exploitation devenu monstre de l'informatique à distance (cloud) et de l'IA aurait alors absorbé les forces vives d'OpenAI sans avoir à se préoccuper de l'aval du régulateur.

«Si Microsoft avait essayé d'acheter OpenAI, ils n'auraient jamais eu le feu vert des autorités de la concurrence», considère Carolina Milanesi.

«Microsoft vient de réaliser l'acquisition la moins chère jamais vue», a abondé Paul Barrett, directeur adjoint du centre des affaires et des droits humains de l'université NYU Stern.

«Mon souci», tempère l'universitaire, «c'est que cela va accélérer la course à l'IA», menée par des entreprises privées, à but lucratif, «et faire oublier aux gens que tout cela devrait faire l'objet d'un débat public.»


Alimentation durable: les principaux distributeurs français «à la traîne» 

Concernant la "transition protéinique", Carrefour, plus qu'avant et que ses concurrents, "met le paquet pour" vendre "plus de légumineuses" ou de "produits céréaliers complets", mais le groupe français "continue à avoir des pratiques (promotions, publicités, etc.) qui incitent à la consommation. (AFP)
Concernant la "transition protéinique", Carrefour, plus qu'avant et que ses concurrents, "met le paquet pour" vendre "plus de légumineuses" ou de "produits céréaliers complets", mais le groupe français "continue à avoir des pratiques (promotions, publicités, etc.) qui incitent à la consommation. (AFP)
Short Url
  • Du côté de la France, Carrefour est la seule "à avoir publié une feuille de route pour atteindre ses objectifs à court terme", tandis que "les plans climat de E.Leclerc et d'Intermarché ne sont pas encore concrets", estiment les auteurs de l'étude
  • Les Suisses Denner et Migros se classent respectivement 9e et 10e, devant le britannique Tesco (11e) et le suédois ICA (14e)

PARIS: Les principaux supermarchés français "sont à la traîne" sur le changement climatique et la transition vers une alimentation plus durable et végétale comparé à leurs homologues européens, Néerlandais en tête, selon un classement publié mardi par le centre de réflexion Questionmark.

Deux axes ont été retenus pour évaluer 27 enseignes: les actions engagées pour réduire les émissions de CO2 conformément à l'Accord de Paris sur le climat de 2015, et celles visant à rééquilibrer les ventes de protéines vers davantage d'aliments d'origine végétale plutôt qu'animale.

Aucune des trois françaises étudiées n'intègrent le Top 10: Carrefour se classe 12e et Intermarché 20e, tandis qu'E.Leclerc, premier distributeur de France en parts de marchés, arrive dernier (27e) selon l'étude du centre néerlandais Questionmark, soutenu par le Réseau Action Climat (RAC).

A l'inverse, les Pays-Bas s'illustrent en haut du tableau, avec la branche néerlandaise de Lidl (1e), puis les distributeurs Albert Heijn (3e) et Jumbo (4e), selon l'étude à laquelle ont également participé les associations Madre Brava, ProVeg International et WWF Pays-Bas.

Chez les bons élèves se trouvent aussi les enseignes de Lidl en Pologne (2e), Allemagne (5e) et Espagne (6e), suivies des supermarchés allemands Rewe (7e) et Aldi Süd (8e).

Les Suisses Denner et Migros se classent respectivement 9e et 10e, devant le britannique Tesco (11e) et le suédois ICA (14e).

Du côté de la France, Carrefour est la seule "à avoir publié une feuille de route pour atteindre ses objectifs à court terme", tandis que "les plans climat de E.Leclerc et d'Intermarché ne sont pas encore concrets", estiment les auteurs de l'étude.

"Les émissions totales de gaz à effet de serre de Carrefour France et Intermarché ont augmenté depuis qu'ils les publient", et "les progrès de E.Leclerc sont inconnus", seules les émissions de 2023 ayant été publiées, ajoutent-ils.

Concernant la "transition protéinique", Carrefour, plus qu'avant et que ses concurrents, "met le paquet pour" vendre "plus de légumineuses" ou de "produits céréaliers complets", mais le groupe français "continue à avoir des pratiques (promotions, publicités, etc.) qui incitent à la consommation, voire à la surconsommation de viande", a déclaré à l'AFP Benoît Granier, responsable alimentation du RAC.

Dans ce contexte, le RAC "exhorte le gouvernement" français "à renforcer l'encadrement du secteur de la grande distribution et à publier enfin la Stratégie nationale pour l'alimentation, la nutrition et le climat (SNANC)", attendue depuis plus de deux ans.


Maisonnave: Le secteur culturel de l'Arabie Saoudite est un nouveau moteur économique entre Riyad et Paris

M. Maisonnave a déclaré à Al-Eqtisadiah, lors de la cérémonie d'ouverture de La Fabrique, que la coopération culturelle avec l'Arabie saoudite est un élément important pour l'attractivité de ce pays dans les décennies à venir. AL-EQTISADIAH.
M. Maisonnave a déclaré à Al-Eqtisadiah, lors de la cérémonie d'ouverture de La Fabrique, que la coopération culturelle avec l'Arabie saoudite est un élément important pour l'attractivité de ce pays dans les décennies à venir. AL-EQTISADIAH.
Short Url
  • La Fabrique est un espace dédié à la créativité artistique et aux échanges culturels, lancé dans le cadre d'un partenariat entre le Riyadh Art program et l'Institut français de Riyad
  • Du 22 janvier au 14 février, l'initiative fournira un espace de travail ouvert qui permettra aux artistes de développer et de travailler sur leurs idées dans un cadre collaboratif

RIYAD: La culture est devenue un pilier fondamental des relations bilatérales entre la France et l'Arabie saoudite, selon l'ambassadeur de France au Royaume, Patrick Maisonnave.

Maisonnave a souligné son lien avec les secteurs du divertissement et du tourisme, ce qui en fait un nouveau moteur de la coopération économique entre Riyad et Paris.

Il a déclaré à Al-Eqtisadiah, lors de la cérémonie d'ouverture de La Fabrique dans le quartier Jax de Diriyah, que la coopération culturelle avec l'Arabie saoudite est un élément important pour son attractivité dans les décennies à venir.

La Fabrique est un espace dédié à la créativité artistique et aux échanges culturels, lancé dans le cadre d'un partenariat entre le Riyadh Art program et l'Institut français de Riyad.

Du 22 janvier au 14 février, l'initiative fournira un espace de travail ouvert qui permettra aux artistes de développer et de travailler sur leurs idées dans un cadre collaboratif.

Lancement de La Fabrique, un espace dédié à la créativité artistique

L'ambassadeur a souligné que le processus de transformation du Royaume dans le cadre de la Vision 2030 a contribué à l'émergence d'une nouvelle génération de jeunes artistes et créateurs, ainsi qu'à un désir croissant de la société saoudienne de se connecter à la culture et de s'intéresser à ce qui se passe dans le monde.

Il a affirmé que la relation entre les deux pays est "profonde, voire culturelle par excellence", l'intérêt de la partie saoudienne pour la culture française allant de pair avec l'intérêt croissant du public français et des institutions culturelles qui se développent dans le Royaume.

Selon les dernières estimations, l'économie de la culture représente environ 2,3 % du produit intérieur brut de la France, soit plus de 90 milliards d'euros (106,4 milliards de dollars) de recettes annuelles, d'après les données du gouvernement. Le secteur emploie directement plus de 600 000 personnes, ce qui en fait l'un des secteurs les plus créateurs d'emplois dans les domaines de la création, de l'édition, du cinéma et des arts visuels.

L'Arabie saoudite bénéficie de l'expérience française dans le domaine culturel

M. Maisonnave a expliqué que la France possède des institutions culturelles bien établies, tandis que l'Arabie saoudite est en train de construire un secteur culturel solide, ce qui ouvre la voie à des opportunités de coopération.

Cette initiative s'inscrit dans le prolongement de la signature, il y a un an, de dix accords culturels majeurs entre des institutions françaises et saoudiennes, visant à renforcer la coopération et à transférer l'expertise et les connaissances françaises afin de contribuer au développement du système culturel dans le Royaume.

Il a ajouté que des expériences telles que La Fabrique permettent de rencontrer la nouvelle génération de créateurs saoudiens, qui ont exprimé leur intérêt pour la mise en relation avec des institutions et des artistes français à Paris et en France.

La Fabrique offre un espace pour de multiples pratiques artistiques contemporaines, y compris les arts de la performance, les arts numériques et interactifs, la photographie, la musique et le cinéma, tout en permettant au public d'assister aux étapes de la production d'œuvres artistiques et d'interagir avec le processus de création.


La CJUE valide les astreintes de 68,5 M EUR contre la Pologne pour son refus de fermer une mine de charbon

La Cour de justice de l'Union européenne (CJUE) UE a rejeté jeudi le recours de la Pologne contre 68,5 millions d'euros d'astreintes accumulées depuis le refus de Varsovie de mettre fin à l'extraction de lignite dans une énorme mine proche des frontières avec la République tchèque et l'Allemagne. (AFP)
La Cour de justice de l'Union européenne (CJUE) UE a rejeté jeudi le recours de la Pologne contre 68,5 millions d'euros d'astreintes accumulées depuis le refus de Varsovie de mettre fin à l'extraction de lignite dans une énorme mine proche des frontières avec la République tchèque et l'Allemagne. (AFP)
Short Url
  • "La Cour de justice rejette le pourvoi de la Pologne contre l'arrêt du Tribunal concernant l'annulation des astreintes journalières infligées dans l'affaire de la mine de Turów"
  • La mine polonaise, qui s'étend à ciel ouvert sur plus de 10 kilomètres le long des deux zones frontalières, suscite des tensions avec ses voisins qui lui reprochent d'abaisser le niveau des nappes phréatiques et de polluer l'environnement

VARSOVIE: La Cour de justice de l'Union européenne (CJUE) UE a rejeté jeudi le recours de la Pologne contre 68,5 millions d'euros d'astreintes accumulées depuis le refus de Varsovie de mettre fin à l'extraction de lignite dans une énorme mine proche des frontières avec la République tchèque et l'Allemagne.

"La Cour de justice rejette le pourvoi de la Pologne contre l'arrêt du Tribunal concernant l'annulation des astreintes journalières infligées dans l'affaire de la mine de Turów", selon un communiqué de presse officiel dans lequel la CJUE insiste sur son souhait de "garantir l'application effective du droit de l'Union dans l'intérêt général".

La mine polonaise, qui s'étend à ciel ouvert sur plus de 10 kilomètres le long des deux zones frontalières, suscite des tensions avec ses voisins qui lui reprochent d'abaisser le niveau des nappes phréatiques et de polluer l'environnement.

En 2021, la République tchèque avait porté l'affaire devant la CJUE.

La mine Turow a été sommée de cesser ses activités, mais l'ancien gouvernement polonais nationaliste n'a pas obtempéré et, en conséquence, Varsovie a été condamné par Bruxelles à une astreinte de 500.000 euros par jour.

Selon le gouvernement, la fermeture de la mine compromettrait la sécurité énergétique du pays.

En 2022, moyennant un engagement à des investissements importants dans la protection de l'environnement, la Pologne est parvenue finalement à un accord amiable avec la République tchèque.

Cependant la Commission européenne a sommé Varsovie de verser environ 68,5 M EUR, soit l'équivalent des astreintes journalières cumulées avant la conclusion de l'accord avec Prague.

Face au nouveau refus polonais, Bruxelles a prélevé les sommes dues dans les fonds européens destinés à Varsovie, une démarche alors inédite.

"L'accord amiable conclu entre la République tchèque et la Pologne n'a pas supprimé rétroactivement les astreintes ordonnées en référé", a expliqué jeudi la CJUE.

Selon la Cour européenne, les astreintes gardent "un caractère préventif et non répressif, contrairement à ce que prétendait la Pologne".

"L'obligation de payer l'astreinte journalière, versée au budget de l'Union, vise à assurer le respect des mesures provisoires déjà ordonnées", a insisté la CJUE.