Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023.  (Photo Patrick T. Fallon AFP)
Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023. (Photo Patrick T. Fallon AFP)
Short Url
Publié le Mardi 21 novembre 2023

Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

  • Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés
  • Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains

SAN FRANCISCO, États-Unis : Roi de l'intelligence artificielle générative depuis un an, OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l'IA.

Lundi soir, près de 700 des quelque 770 employés de la start-up californienne avaient signé la lettre promettant leur départ si le conseil d'administration refusait de démissionner, selon plusieurs médias.

Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés, ont rapporté des médias américains.

Pour Brendan Dolan-Gavitt, professeur d'informatique à l'université NYU Tandon, cette thèse est validée par l'arrivée d'Emmett Shear, désigné pour succéder à Sam Altman. «Il a souvent exprimé sa préoccupation quant à la sûreté de l'intelligence artificielle», rappelle l'universitaire.

«On en est arrivé là parce que de minuscules risques ont été amplifiés par des esprits amateurs de science-fiction et des journalistes à sensation», a dénoncé, dans une tribune publié par le site The Information, Vinod Khosla, fondateur de la société de capital-investissement Khosla Ventures, actionnaire d'OpenAI.

Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains.

«Il est temps de s'intéresser aux risques de l'IA, mais pas au point de ralentir le progrès et de nous priver de ses avantages», a plaidé Vinod Khosla.

Les événements des derniers jours ont mis en évidence les limites du modèle d'OpenAI, qui voulait placer sous le contrôle d'une holding à but non lucratif une société sur laquelle des acteurs financiers ont misé des milliards de dollars.

Les administrateurs «avaient perdu le sens des réalités», a estimé Carolina Milanesi, du cabinet Creative Strategies. «Comment pouvez-vous rester une société à but non lucratif une fois que vous acceptez ces montants de gens comme Microsoft?»

Le géant de Redmond (Etat du Washington) a débloqué, selon plusieurs médias, une enveloppe de dix milliards de dollars pour son partenariat avec OpenAI, notamment en lui offrant des capacités massives de traitement des données pour développer ses modèles.

- Microsoft en vainqueur –

La séquence «met en lumière le fait qu'on ne peut pas laisser les entreprises auto-réguler l'IA, alors qu'il existe des divergences au sein de leur propre gouvernance», a commenté, sur X (ex-Twitter), Gary Marcus, spécialiste d'intelligence artificielle et entrepeneur.

«S'il vous plaît, ne renoncez pas à l'+AI Act+; nous en avons plus besoin que jamais», a-t-il poursuivi, en référence au texte destiné à encadrer l'intelligence artificielle et en cours de discussion au sein de l'Union européenne.

Le schisme d'OpenAI «va accélérer beaucoup de choses sur le front de la régulation», a prévenu Ryan Steelberg, directeur général de Veritone, société d'analyse de données grâce à l'IA.

Pour autant, «cela ne va pas ralentir la course à l'IA générative», prévient Carolina Milanesi. «Il s'agit simplement de péripéties de salle de réunion, qui mettent Microsoft en meilleure position.»

Même si la situation est loin d'être figée chez OpenAI, le créateur de Windows apparaît déjà comme le grand vainqueur de cette saga.

Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI.

Selon Miguel Fierro, cadre de Microsoft, le directeur général Satya Nadella s'est engagé à embaucher tous les salariés d'OpenAI qui choisiraient de démissionner, faute de départ des administrateurs.

Le géant des systèmes d'exploitation devenu monstre de l'informatique à distance (cloud) et de l'IA aurait alors absorbé les forces vives d'OpenAI sans avoir à se préoccuper de l'aval du régulateur.

«Si Microsoft avait essayé d'acheter OpenAI, ils n'auraient jamais eu le feu vert des autorités de la concurrence», considère Carolina Milanesi.

«Microsoft vient de réaliser l'acquisition la moins chère jamais vue», a abondé Paul Barrett, directeur adjoint du centre des affaires et des droits humains de l'université NYU Stern.

«Mon souci», tempère l'universitaire, «c'est que cela va accélérer la course à l'IA», menée par des entreprises privées, à but lucratif, «et faire oublier aux gens que tout cela devrait faire l'objet d'un débat public.»


L'ONU approuve le premier projet de crédit carbone lié à l'accord de Paris

"Les opportunités offertes par ce marché carbone des Nations Unies dans toutes les régions sont immenses, en particulier maintenant que des mesures de protection environnementale solides, des normes rigoureuses et un système de recours clair sont en place pour garantir l'intégrité, l'inclusivité et l'efficacité", s'est félicité le chef de l'ONU Climat, Simon Stiell. (AFP)
"Les opportunités offertes par ce marché carbone des Nations Unies dans toutes les régions sont immenses, en particulier maintenant que des mesures de protection environnementale solides, des normes rigoureuses et un système de recours clair sont en place pour garantir l'intégrité, l'inclusivité et l'efficacité", s'est félicité le chef de l'ONU Climat, Simon Stiell. (AFP)
Short Url
  • L'accord de Paris, moteur de la coopération climatique mondiale adopté en 2015, prévoit qu'un pays qui dépasserait ses objectifs de baisse des émissions de CO2 puisse vendre son excès de réductions à un pays en retard sur ses propres objectifs
  • Ce pays a désormais le droit, dans le cadre de l'accord de Paris, de réduire, sur le papier, le total de ses propres émissions de gaz à effet de serre, grâce à ces crédits carbone

PARIS: Le premier projet de crédit carbone dans le cadre de l'accord de Paris a reçu le feu vert de l'ONU jeudi, un mécanisme pour aider les pays riches à tenir leurs engagements climatiques mais critiqué pour les risques d'écoblanchiment.

L'accord de Paris, moteur de la coopération climatique mondiale adopté en 2015, prévoit qu'un pays qui dépasserait ses objectifs de baisse des émissions de CO2 puisse vendre son excès de réductions à un pays en retard sur ses propres objectifs, en général un pays riche.

Ce pays a désormais le droit, dans le cadre de l'accord de Paris, de réduire, sur le papier, le total de ses propres émissions de gaz à effet de serre, grâce à ces crédits carbone.

Concrètement, une entreprise sud-coréenne va financer un programme de remplacement de foyers de cuisson ouverts (bois, charbon de bois, etc.) par des foyers plus économes en combustibles en Birmanie, a annoncé l'ONU Climat jeudi.

De tels projets sont censés réduire les émissions de CO2 puisque moins d'énergie sera perdue et donc utilisée par les familles pour cuisiner, avec un bénéfice additionnel pour la qualité de l'air et pour protéger les forêts locales.

Selon l'Organisation mondiale de la santé, environ un quart de la population mondiale cuisine avec des foyers ouverts qui polluent l'air intérieur et extérieur en brûlant des combustibles tels que kérosène, charbon de bois, bouses séchées et déchets agricoles.

Mais ces programmes ont historiquement échoué à tenir leurs promesses, les méthodologies ayant surestimé les réductions d'émissions, notamment dans le cas où les populations délaissent les nouveaux systèmes parce qu'ils les trouvent moins pratiques, ou s'ils se cassent.

La Corée du Sud va, en payant pour ce programme de remplacement, bénéficier de crédits carbone, qui aideront à réduire le total de son empreinte carbone. Le mécanisme onusien évite un double comptage de ces réductions dans les pays vendeurs et acheteurs des crédits.

"Les opportunités offertes par ce marché carbone des Nations Unies dans toutes les régions sont immenses, en particulier maintenant que des mesures de protection environnementale solides, des normes rigoureuses et un système de recours clair sont en place pour garantir l'intégrité, l'inclusivité et l'efficacité", s'est félicité le chef de l'ONU Climat, Simon Stiell.

Au-delà des problèmes de comptage, les détracteurs du mécanisme de crédit carbone dénoncent un passe-droit donné à certains pour ne pas réduire leurs propres émissions, puisqu'il leur suffirait de payer pour se dire en ligne avec l'accord de Paris.

Ce nouveau mécanisme a été validé par les pays du monde entier à la COP29 en 2024, et des centaines d'autres projets attendent d'être approuvés.

 


Terra Academia au cœur du développement des compétences vertes dans le Golfe

Terra Academia est lancée au BIBF pour former la prochaine génération de professionnels aux défis écologiques du Golfe. (Photo: Arab News en français)
Terra Academia est lancée au BIBF pour former la prochaine génération de professionnels aux défis écologiques du Golfe. (Photo: Arab News en français)
Terra Academia: la cérémonie de lancement au BIBF rassemble ministres, diplomates et acteurs privés autour de la transition écologique. (Photo: fournie)
Terra Academia: la cérémonie de lancement au BIBF rassemble ministres, diplomates et acteurs privés autour de la transition écologique. (Photo: fournie)
Jean-Michel Blanquer, président de Terra Academia, lors du lancement de Terra Academia à Bahreïn. (Photo : fournie)
Jean-Michel Blanquer, président de Terra Academia, lors du lancement de Terra Academia à Bahreïn. (Photo : fournie)
Étudiants et professionnels en devenir : Terra Academia mise sur la formation pratique pour construire le futur vert de la région. (Photo: fournie)
Étudiants et professionnels en devenir : Terra Academia mise sur la formation pratique pour construire le futur vert de la région. (Photo: fournie)
Short Url
  • Terra Academia Bahreïn vise 5 000 professionnels formés d’ici 2030, en combinant campus, formation en ligne et immersion sur des sites industriels
  • Le lancement a mis en avant le rôle de l’éducation, des alliances public-privé et de la localisation des talents pour accélérer la transition écologique du Golfe

MANAMA: Dans le Golfe, la transition énergétique entre dans une nouvelle phase. Après des investissements massifs dans les infrastructures — dessalement, efficacité énergétique, gestion des déchets — l’enjeu se déplace vers les compétences. C’est dans ce contexte qu’a été lancé Terra Academia au Bahrain Institute of Banking and Finance (BIBF), avec l’ambition de structurer une filière régionale de formation dédiée à la transformation écologique.

Placée sous le thème, « Partnering for Sustainable Futures: Education and Ecological Transformation », la conférence a réuni ministres, diplomates, universitaires, économistes et dirigeants d’entreprise autour des défis écologiques auxquels fait face le Golfe.

Jean-Michel Blanquer, président de Terra Academia et ancien ministre français de l’Éducation nationale, a présenté l’initiative comme une réponse aux transformations profondes qui redessinent les sociétés.

« Nous sommes à la croisée des révolutions numérique, de l’intelligence artificielle et écologique. L’éducation doit préparer les jeunes à s’adapter, avec des bases éthiques et techniques solides, aux défis que ces transformations entraînent », a-t-il déclaré à Arab News en français lors d’un entretien.

Le ministre de l’Éducation, Dr Mohammed bin Mubarak Juma, y voit un outil d’alignement entre politique publique et ambitions climatiques : « Terra Academia constitue une étape clé pour faire converger notre stratégie éducative et nos objectifs de neutralité carbone. »

Jean-Michel Blanquer a précisé que Terra Academia propose une approche systémique et multidisciplinaire, associant compétences pratiques, sciences et technologies pour accélérer la transformation écologique. Bahreïn a été choisi pour sa position stratégique régionale et sa cohérence avec les priorités nationales et régionales en matière de durabilité.

Terra Academia ambitionne de devenir la première université du Moyen-Orient entièrement dédiée à la transformation écologique, à l’innovation industrielle et au développement des compétences de demain. D’ici 2030, elle prévoit de former 5 000 étudiants et professionnels via un campus dédié et une plateforme numérique.

Les programmes s’adressent aux jeunes diplômés, cadres, dirigeants et responsables publics. Au cœur du dispositif : gestion de l’eau, traitement des déchets, efficacité énergétique — avec une forte dimension pratique via des stages sur des sites industriels opérés par Veolia.

Pour Veolia, présente dans les pays du Golfe depuis plus de 50 ans, l’initiative traduit une évolution stratégique : développer les talents locaux plutôt que recourir exclusivement à l’expertise internationale.

Le groupe exploite Bahrain Bay dans le cadre d’un contrat de gestion intégrée des ressources de 75 ans, comprenant la plus grande centrale de refroidissement urbain du pays (150 MW) ainsi qu’une station de traitement des eaux usées desservant 1,5 million de mètres carrés.

Philippe Bourdeaux, Vice-Président exécutif senior Afrique et Moyen-Orient chez Veolia, a identifié trois axes majeurs : l’eau, les déchets et l’efficacité énergétique.

« La dessalinisation continue de se développer, mais la réutilisation des eaux usées reste un domaine où le potentiel est important. La gestion des déchets offre des perspectives dans la capture du méthane, la valorisation énergétique et le traitement des déchets industriels et dangereux. Quant à l’efficacité énergétique des grandes infrastructures — des aéroports aux métros — elle demeure un levier largement inexploité pour réduire les émissions de CO₂ », a-t-il déclaré à Arab News en français.

Il insiste sur l’importance des compétences techniques et de la localisation de la main-d’œuvre pour assurer une exploitation durable et s’aligner sur les stratégies régionales : « Nous ne pouvons pas nous appuyer uniquement sur des talents internationaux. Former des ingénieurs et des managers locaux garantit la durabilité des projets tout en préparant les jeunes professionnels à des responsabilités techniques et managériales plus élevées. »

Un panel consacré au rôle des alliances public-privé a souligné un point clé : la transition écologique est autant une question de financement et de gouvernance que de technologie.

Finance verte, évaluation des risques climatiques et cadres d’investissement durable sont désormais intégrés aux programmes, en partenariat avec le BIBF.

L’intervention de l’économiste Philippe Aghion, prix Nobel 2025, a rappelé que l’innovation demeure un moteur essentiel de la croissance durable — un signal adressé aux décideurs économiques autant qu’aux industriels.

Terra Academia entend relier éducation, industrie et politiques publiques, en préparant les talents locaux à conduire la transition écologique du Golfe.

Estelle Brachlianoff, directrice générale de Veolia, a décrit l’initiative comme un catalyseur pour le développement de la main-d’œuvre : « Cette initiative reflète notre conviction que l’éducation, le développement des compétences et la création d’emplois environnementaux locaux sont des leviers essentiels d’une croissance durable au Moyen-Orient. »

Terra Academia incarne une approche stratégique de la transformation écologique dans le Golfe, en articulant rigueur académique, expertise opérationnelle et gouvernance financière.

Au-delà de l’infrastructure, c’est désormais la profondeur du capital humain qui déterminera la trajectoire régionale. Dans la course vers le zéro carbone, les infrastructures peuvent donner le rythme — mais ce sont les talents qui en détermineront l’issue.


L'économie du premier État saoudien a jeté les bases de la stabilité moderne

Au-delà de son importance politique et intellectuelle, Diriyah est devenue un centre économique dynamique. (SPA)
Au-delà de son importance politique et intellectuelle, Diriyah est devenue un centre économique dynamique. (SPA)
Short Url
  • Le commerce a repris dans la péninsule arabique, selon un historien
  • La ville de Diriyah est considérée comme un centre politique et commercial de premier plan

RIYAD: L'économie du premier État saoudien a servi de pilier fondamental à la construction de la nation, à la consolidation de son influence et à la garantie de sa stabilité, a récemment rapporté l'Agence de presse saoudienne.

Les principales caractéristiques de cette économie sont décrites dans le livre "Diriyah : Origins and Development during the First Saudi State", du Dr Abdullah Al-Saleh Al-Othaimeen, a rapporté la SPA.

Les mesures prises à l'époque ont permis d'assurer la sécurité, d'unifier les régions et d'organiser la société. Cela a permis de stimuler le commerce, de stabiliser les marchés et d'améliorer la vie à Diriyah et dans les régions avoisinantes.

arabie saoudite

Au-delà de son importance politique et intellectuelle, Diriyah est devenu un centre économique dynamique. (SPA)


L'ouvrage, publié par la Fondation du roi Abdulaziz pour la recherche et les archives, explique comment ces actions ont facilité l'arrivée des caravanes, sécurisé de vastes routes commerciales et relancé le commerce dans toute la péninsule arabique.

Au-delà de son importance politique et intellectuelle, Diriyah est devenue un centre économique dynamique. Ses marchés attiraient des marchands et des étudiants de toute la région.

La communauté locale s'appuyait sur diverses activités, notamment le commerce, l'agriculture et l'élevage, les chevaux et les chameaux jouant un rôle crucial dans le transport, le commerce et la sécurisation des routes.

La croissance économique au cours de cette phase de fondation "a consolidé la position de Diriyah en tant que centre politique et commercial de premier plan dans la péninsule arabique", a rapporté l'APS