Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023.  (Photo Patrick T. Fallon AFP)
Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023. (Photo Patrick T. Fallon AFP)
Short Url
Publié le Mardi 21 novembre 2023

Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

  • Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés
  • Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains

SAN FRANCISCO, États-Unis : Roi de l'intelligence artificielle générative depuis un an, OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l'IA.

Lundi soir, près de 700 des quelque 770 employés de la start-up californienne avaient signé la lettre promettant leur départ si le conseil d'administration refusait de démissionner, selon plusieurs médias.

Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés, ont rapporté des médias américains.

Pour Brendan Dolan-Gavitt, professeur d'informatique à l'université NYU Tandon, cette thèse est validée par l'arrivée d'Emmett Shear, désigné pour succéder à Sam Altman. «Il a souvent exprimé sa préoccupation quant à la sûreté de l'intelligence artificielle», rappelle l'universitaire.

«On en est arrivé là parce que de minuscules risques ont été amplifiés par des esprits amateurs de science-fiction et des journalistes à sensation», a dénoncé, dans une tribune publié par le site The Information, Vinod Khosla, fondateur de la société de capital-investissement Khosla Ventures, actionnaire d'OpenAI.

Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains.

«Il est temps de s'intéresser aux risques de l'IA, mais pas au point de ralentir le progrès et de nous priver de ses avantages», a plaidé Vinod Khosla.

Les événements des derniers jours ont mis en évidence les limites du modèle d'OpenAI, qui voulait placer sous le contrôle d'une holding à but non lucratif une société sur laquelle des acteurs financiers ont misé des milliards de dollars.

Les administrateurs «avaient perdu le sens des réalités», a estimé Carolina Milanesi, du cabinet Creative Strategies. «Comment pouvez-vous rester une société à but non lucratif une fois que vous acceptez ces montants de gens comme Microsoft?»

Le géant de Redmond (Etat du Washington) a débloqué, selon plusieurs médias, une enveloppe de dix milliards de dollars pour son partenariat avec OpenAI, notamment en lui offrant des capacités massives de traitement des données pour développer ses modèles.

- Microsoft en vainqueur –

La séquence «met en lumière le fait qu'on ne peut pas laisser les entreprises auto-réguler l'IA, alors qu'il existe des divergences au sein de leur propre gouvernance», a commenté, sur X (ex-Twitter), Gary Marcus, spécialiste d'intelligence artificielle et entrepeneur.

«S'il vous plaît, ne renoncez pas à l'+AI Act+; nous en avons plus besoin que jamais», a-t-il poursuivi, en référence au texte destiné à encadrer l'intelligence artificielle et en cours de discussion au sein de l'Union européenne.

Le schisme d'OpenAI «va accélérer beaucoup de choses sur le front de la régulation», a prévenu Ryan Steelberg, directeur général de Veritone, société d'analyse de données grâce à l'IA.

Pour autant, «cela ne va pas ralentir la course à l'IA générative», prévient Carolina Milanesi. «Il s'agit simplement de péripéties de salle de réunion, qui mettent Microsoft en meilleure position.»

Même si la situation est loin d'être figée chez OpenAI, le créateur de Windows apparaît déjà comme le grand vainqueur de cette saga.

Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI.

Selon Miguel Fierro, cadre de Microsoft, le directeur général Satya Nadella s'est engagé à embaucher tous les salariés d'OpenAI qui choisiraient de démissionner, faute de départ des administrateurs.

Le géant des systèmes d'exploitation devenu monstre de l'informatique à distance (cloud) et de l'IA aurait alors absorbé les forces vives d'OpenAI sans avoir à se préoccuper de l'aval du régulateur.

«Si Microsoft avait essayé d'acheter OpenAI, ils n'auraient jamais eu le feu vert des autorités de la concurrence», considère Carolina Milanesi.

«Microsoft vient de réaliser l'acquisition la moins chère jamais vue», a abondé Paul Barrett, directeur adjoint du centre des affaires et des droits humains de l'université NYU Stern.

«Mon souci», tempère l'universitaire, «c'est que cela va accélérer la course à l'IA», menée par des entreprises privées, à but lucratif, «et faire oublier aux gens que tout cela devrait faire l'objet d'un débat public.»


Le pétrole bondit après les déclarations Trump sur la fin du cessez-le-feu avec l'Iran

Les contrats à terme sur le Brent ont progressé de 3,82 dollars, soit 5,15 %, pour atteindre 77,98 dollars le baril à 11h32 (heure saoudienne). (Shutterstock)
Les contrats à terme sur le Brent ont progressé de 3,82 dollars, soit 5,15 %, pour atteindre 77,98 dollars le baril à 11h32 (heure saoudienne). (Shutterstock)
  • Les prix du pétrole ont bondi de plus de 6 % après les déclarations de Donald Trump annonçant la fin du cessez-le-feu avec l’Iran
  • La reprise des tensions au détroit d’Ormuz ravive les craintes sur l’approvisionnement mondial en pétrole, malgré la poursuite possible des négociations

LONDRES: Les cours du pétrole bondissent mercredi après les déclarations de Donald Trump affirmant mettre fin au cessez-le-feu avec l'Iran, dans la foulée d'une reprise des hostilités à la suite d'attaques de bateaux dans le détroit d'Ormuz.

Vers 09H15 GMT (11H15 à Paris), le prix du baril de Brent de la mer du Nord, pour livraison en septembre, s'envolait de 6,45% à 78,94 dollars.

Son équivalent américain, le baril de West Texas Intermediate, pour livraison en août, grimpait de 6,49% à 75,01 dollars.

Les deux références du brut évoluaient à leurs plus hauts niveaux depuis deux semaines.

Le président américain a affirmé mercredi à Ankara que le cessez-le-feu avec l'Iran était "terminé", qualifiant les Iraniens de "menteurs".

"En ce qui me concerne, c'est terminé (...) c'est juste une perte de temps de négocier avec eux, ce sont des menteurs", a-t-il affirmé, interrogé sur le cessez-le-feu avec l'Iran, qu'il a qualifié de pays "malade".

Le locataire de la Maison Blanche a toutefois laissé entendre que les négociateurs pourraient poursuivre les discussions.

Si "le prix du baril a fortement progressé" ce matin, il n'est pas revenu à ses plus hauts atteints durant la guerre, tempère John Plassard, analyste chez Cité Gestion, interrogé par l'AFP.

L'analyste voit davantage une "pause" du cessez-le-feu que sa fin, car si le président américain dit qu'il "est terminé, c'est aussi un moyen de mettre de la pression".

Donald Trump n'a, selon lui, "aucun intérêt à ce que les discussions s'arrêtent totalement", pour des raisons électorales, après avoir mis en avant les prix bas à la pompe dans sa campagne.

Trois navires ont été frappés en 24 heures dans le détroit d'Ormuz, a rapporté l'agence de sécurité maritime britannique UKMTO mardi. Le Qatar et l'Arabie saoudite ont imputé deux de ces attaques à l'Iran.

Dénonçant des "attaques iraniennes" et une "violation flagrante du cessez-le-feu", l'armée américaine a lancé une série de "frappes puissantes" contre l'Iran, touchant plus de 80 cibles, dont des systèmes iraniens de défense antiaérienne.

Ces tirs américains ont déclenché mercredi des représailles de Téhéran, qui a dit avoir attaqué des bases américaines au Koweït et à Bahreïn.

Washington a également rétabli ses sanctions économiques sur le pétrole iranien.

Le protocole d'accord, signé le 17 juin pour mettre fin à la guerre déclenchée le 28 février par l'offensive américano-israélienne contre la République islamique, prévoit la réouverture du passage stratégique d'Ormuz ainsi que la levée des sanctions américaines sur le pétrole iranien.


Le patron de TotalEnergies voit la Syrie comme une «route alternative» pour le pétrole

  • "Aujourd'hui, c'est clair que la situation sécuritaire ne permet pas encore de travailler, mais je trouve que c'est une belle initiative de venir ici, à Damas"
  • "C'est un pays qui est à la croisée des chemins dans le Moyen-Orient"

DAMAS: La Syrie peut devenir un "pays de transit important pour le pétrole qui vient d'Irak vers la Méditerranée", et offrir des "routes alternatives" au détroit d'Ormuz, a déclaré mardi à Damas le patron de TotalEnergies Patrick Pouyanné, en marge de la visite d'Emmanuel Macron.

"Aujourd'hui, c'est clair que la situation sécuritaire ne permet pas encore de travailler, mais je trouve que c'est une belle initiative de venir ici, à Damas", a-t-il dit à des journalistes juste avant l'annonce de l'explosion de deux bombes à proximité de l'hôtel où le président français avait passé la nuit.

"C'est un pays qui est à la croisée des chemins dans le Moyen-Orient", a-t-il ajouté.

Selon lui, "ce qui vient de passer avec le détroit d'Ormuz" dans le Golfe, bloqué durant la guerre américano-israélienne contre l'Iran, "lui donne également plus d'importance", "puisqu'on voit bien que maintenant, si on veut investir au Moyen-Orient, il va falloir qu'on trouve des routes alternatives".

Début avril, l'Irak avait annoncé avoir commencé à transporter du pétrole par camion à travers la Syrie en vue de sa réexportation, en raison de la fermeture du détroit d'Ormuz. L'Irak et la Syrie ont récemment évoqué un projet de restauration de l'oléoduc reliant les deux pays, fermé depuis des décennies.

TotalEnergies a conclu un mémorandum d'entente avec la Syrie pour un bloc d'exploration offshore en Méditerranée, mais n'a pas encore d'autre projet spécifique dans le pays, a souligné Patrick Pouyanné.

Sa visite à Damas, la première depuis la fin de la guerre civile en 2024, vise à "rencontrer les autorités" pour "des prises de contact", a-t-il précisé.

"Laissons au gouvernement le temps de prendre le contrôle de ce pays. Il ne faut pas trop demander" après plus de 13 ans de guerre civile, "il faut être un peu patient", a-t-il ajouté.


Saudia clarifie la vente d’anciens avions Boeing dans un contexte de rapports sur des sanctions

Photo Wikipedia (14 avril 2020) d’un Boeing 777-200 de Saudia, désormais remplacé par des appareils plus récents Airbus et Boeing. (John Taggart / Wikimedia Commons)
Photo Wikipedia (14 avril 2020) d’un Boeing 777-200 de Saudia, désormais remplacé par des appareils plus récents Airbus et Boeing. (John Taggart / Wikimedia Commons)
  • Saudia affirme que des Boeing 777-200 ont été vendus légalement à une société étrangère
  • La compagnie dit n’avoir aucun lien avec les appareils depuis la vente de juin 2023

RIYAD : Le transporteur national saoudien Saudia a clarifié samedi des informations circulant dans les médias et sur les réseaux sociaux concernant le transfert d’avions Boeing 777-200 qu’il possédait auparavant à une compagnie aérienne faisant l’objet de sanctions internationales.

Dans un communiqué publié sur la plateforme sociale X, la compagnie a indiqué que les appareils avaient été vendus le 7 juin 2023 à une société enregistrée en dehors de l’Arabie saoudite, et que la transaction avait été réalisée conformément à toutes les procédures commerciales et juridiques applicables.

« Depuis la finalisation de la vente, Saudia n’a plus aucun lien opérationnel ou commercial avec ces avions », a déclaré la compagnie, sans identifier l’acheteur ni fournir davantage de détails.

Cette déclaration intervient après des rapports et publications en ligne ayant lié d’anciens appareils de Saudia à un transporteur sanctionné, poussant la compagnie à prendre publiquement ses distances avec toute utilisation ultérieure de ces avions.

Saudia, anciennement connue sous le nom de Saudi Arabian Airlines, a été fondée en septembre 1945 et est la plus ancienne compagnie aérienne du Royaume. Selon son site internet, elle exploite actuellement une flotte d’environ 149 avions de passagers.

Sa flotte comprend 95 avions Airbus des familles A320, A321 et A330, ainsi que 54 appareils Boeing incluant les séries 777 et 787 Dreamliner. 

Ce texte est la traduction d’un article paru sur Arabnews.com