Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023.  (Photo Patrick T. Fallon AFP)
Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023. (Photo Patrick T. Fallon AFP)
Short Url
Publié le Mardi 21 novembre 2023

Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

  • Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés
  • Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains

SAN FRANCISCO, États-Unis : Roi de l'intelligence artificielle générative depuis un an, OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l'IA.

Lundi soir, près de 700 des quelque 770 employés de la start-up californienne avaient signé la lettre promettant leur départ si le conseil d'administration refusait de démissionner, selon plusieurs médias.

Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés, ont rapporté des médias américains.

Pour Brendan Dolan-Gavitt, professeur d'informatique à l'université NYU Tandon, cette thèse est validée par l'arrivée d'Emmett Shear, désigné pour succéder à Sam Altman. «Il a souvent exprimé sa préoccupation quant à la sûreté de l'intelligence artificielle», rappelle l'universitaire.

«On en est arrivé là parce que de minuscules risques ont été amplifiés par des esprits amateurs de science-fiction et des journalistes à sensation», a dénoncé, dans une tribune publié par le site The Information, Vinod Khosla, fondateur de la société de capital-investissement Khosla Ventures, actionnaire d'OpenAI.

Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains.

«Il est temps de s'intéresser aux risques de l'IA, mais pas au point de ralentir le progrès et de nous priver de ses avantages», a plaidé Vinod Khosla.

Les événements des derniers jours ont mis en évidence les limites du modèle d'OpenAI, qui voulait placer sous le contrôle d'une holding à but non lucratif une société sur laquelle des acteurs financiers ont misé des milliards de dollars.

Les administrateurs «avaient perdu le sens des réalités», a estimé Carolina Milanesi, du cabinet Creative Strategies. «Comment pouvez-vous rester une société à but non lucratif une fois que vous acceptez ces montants de gens comme Microsoft?»

Le géant de Redmond (Etat du Washington) a débloqué, selon plusieurs médias, une enveloppe de dix milliards de dollars pour son partenariat avec OpenAI, notamment en lui offrant des capacités massives de traitement des données pour développer ses modèles.

- Microsoft en vainqueur –

La séquence «met en lumière le fait qu'on ne peut pas laisser les entreprises auto-réguler l'IA, alors qu'il existe des divergences au sein de leur propre gouvernance», a commenté, sur X (ex-Twitter), Gary Marcus, spécialiste d'intelligence artificielle et entrepeneur.

«S'il vous plaît, ne renoncez pas à l'+AI Act+; nous en avons plus besoin que jamais», a-t-il poursuivi, en référence au texte destiné à encadrer l'intelligence artificielle et en cours de discussion au sein de l'Union européenne.

Le schisme d'OpenAI «va accélérer beaucoup de choses sur le front de la régulation», a prévenu Ryan Steelberg, directeur général de Veritone, société d'analyse de données grâce à l'IA.

Pour autant, «cela ne va pas ralentir la course à l'IA générative», prévient Carolina Milanesi. «Il s'agit simplement de péripéties de salle de réunion, qui mettent Microsoft en meilleure position.»

Même si la situation est loin d'être figée chez OpenAI, le créateur de Windows apparaît déjà comme le grand vainqueur de cette saga.

Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI.

Selon Miguel Fierro, cadre de Microsoft, le directeur général Satya Nadella s'est engagé à embaucher tous les salariés d'OpenAI qui choisiraient de démissionner, faute de départ des administrateurs.

Le géant des systèmes d'exploitation devenu monstre de l'informatique à distance (cloud) et de l'IA aurait alors absorbé les forces vives d'OpenAI sans avoir à se préoccuper de l'aval du régulateur.

«Si Microsoft avait essayé d'acheter OpenAI, ils n'auraient jamais eu le feu vert des autorités de la concurrence», considère Carolina Milanesi.

«Microsoft vient de réaliser l'acquisition la moins chère jamais vue», a abondé Paul Barrett, directeur adjoint du centre des affaires et des droits humains de l'université NYU Stern.

«Mon souci», tempère l'universitaire, «c'est que cela va accélérer la course à l'IA», menée par des entreprises privées, à but lucratif, «et faire oublier aux gens que tout cela devrait faire l'objet d'un débat public.»


Climat: l'UE face aux pays pétroliers et émergents, la COP30 dans l'impasse

Vue des camions de pompiers depuis l'extérieur de la COP30 à Belém au Brésil, le 20 novembre 2025, après qu'un incendie s'est déclaré dans un pavillon. (AFP)
Vue des camions de pompiers depuis l'extérieur de la COP30 à Belém au Brésil, le 20 novembre 2025, après qu'un incendie s'est déclaré dans un pavillon. (AFP)
Short Url
  • Les négociations de la COP30 à Belém sont dans l’impasse, l’Union européenne se retrouvant isolée face aux pays pétroliers et émergents qui refusent d’inscrire la sortie des énergies fossiles dans l’accord final
  • Les pays en développement exigent davantage de financements pour la transition et l’adaptation, tandis que les Européens menacent de quitter la conférence sans accord

BELEM: La conférence de l'ONU sur le climat à Belém (Brésil) est entrée en prolongation samedi, avec un face-à-face entre Union européenne d'un côté et des pays pétroliers et émergents de l'autre, en désaccord frontal.

Les négociations se sont poursuivies dans la nuit de vendredi à samedi, alors que la COP30 devait s'achever vendredi soir, après deux semaines de travaux. Où en est-on au petit matin?

"Nulle part", répond la ministre française de la Transition écologique, Monique Barbut, en arrivant à une réunion avec les Vingt-Sept tôt samedi. De nombreux négociateurs n'ont pas dormi de la nuit, alors que des parties du site à Belem commencent à être démontées.

Que doit dire la déclaration finale de cette COP30? La question divise les délégations venues jusqu'en Amazonie.

Une séance de clôture est programmée à 10h00 (13h00 GMT), mais l'horaire pourrait changer.

Pour les Européens, l'avenir passe obligatoirement par un message pour réduire les émissions de gaz à effet de serre et les énergies fossiles. Celles-ci sont responsables de la grande majorité du réchauffement.

Des pays comme la Chine, la Russie, l'Arabie saoudite ou l'Inde sont désignés par la France comme menant le camp du refus.

Mais une partie du monde en développement ne soutient pas non plus la bataille contre les fossiles.

Ils expliquent que de nombreuses économies, pauvres ou émergentes, n'ont pas à l'heure actuelle les moyens d'une transition vers une consommation et une croissance moins denses en carbone, ou tout simplement de s'adapter à un climat déréglé. Ils réclament des pays les plus riches des engagements financiers supplémentaires pour aider les nations qui le sont moins.

- Européens "isolés" -

La présidence brésilienne de la conférence a consulté tout le monde vendredi sur une proposition d'accord qui ne contient plus le mot "fossiles". Et encore moins la création d'une "feuille de route" sur la sortie du pétrole, du charbon et du gaz, réclamée par au moins 80 pays européens, latino-américains ou insulaires, et soutenue par le président brésilien Lula lui-même.

L'Union européenne a évoqué vendredi la perspective de partir "sans accord". Ce serait un échec retentissant pour l'hôte, le Brésil, et pour une conférence organisée dans l'une des régions emblématiques des questions environnementales posées à la planète, l'Amazonie.

Mais cela pose un dilemme. Les Européens se retrouvent "isolés" dans leur refus du texte, selon une délégation d'un des 27. Ils hésitent sur l'attitude à adopter: claquer la porte pour marquer la gravité de la situation, ou chercher encore une conciliation par "peur (...) d'endosser la responsabilité" de l'échec du sommet.

Le projet d'accord de la présidence brésilienne demande des "efforts" pour tripler les financements pour l'adaptation des pays pauvres au changement climatique. Or les État appelés à contribuer appelés sont réticents, un an après une COP29, à Bakou, qui les a déjà engagés sur dix ans.

"Concentrons-nous sur l'essentiel: l'accès à l'énergie pour les plus pauvres, la sécurité énergétique pour tous et la durabilité énergétique pour la planète", dit à l'AFP l'Indien Arunabha Ghosh, émissaire de la COP30 pour l'Asie du Sud.

- "Nous mettre d'accord" -

Selon plusieurs observateurs et délégués interrogés par l'AFP, les débats se concentrent sur des modifications à la marge des trois principaux points de friction: l'ambition de réduction des énergies fossiles, l'aide financière due par les pays développés, et les tensions commerciales sur les taxes carbone aux frontières.

"Ceux qui doutent que la coopération soit la meilleure chose à faire pour le climat seront absolument ravis de voir qu'on n'arrive pas à nous mettre d'accord", lançait le président de la COP30, le diplomate André Corrêa do Lago.

L'idée d'une "feuille de route" pour accélérer la sortie du pétrole, du charbon et du gaz, est née de la frustration face au manque de concrétisation de l'engagement à leur abandon progressif pris à la COP28 il y a deux ans.

Peu comptaient sur le retour de cette question au menu, jusqu'à ce que le président brésilien la remette au centre du jeu au début du sommet.

Premier producteur de pétrole au monde, les États-Unis sont eux-mêmes absents de cette COP30, le président Donald Trump jugeant ces négociations inutiles.


Sept accords technologiques avec les États-Unis pour accélérer l’IA saoudienne

L'Autorité saoudienne des données et de l'intelligence artificielle a signé sept accords stratégiques avec des entreprises technologiques américaines de premier plan dans le cadre des efforts visant à accélérer la transformation numérique du Royaume et à développer ses capacités en matière d'intelligence artificielle. (SPA)
L'Autorité saoudienne des données et de l'intelligence artificielle a signé sept accords stratégiques avec des entreprises technologiques américaines de premier plan dans le cadre des efforts visant à accélérer la transformation numérique du Royaume et à développer ses capacités en matière d'intelligence artificielle. (SPA)
Short Url
  • La cérémonie de signature a été dirigée par le président de la SDAIA, Abdullah Alghamdi, en marge du Forum d’investissement saoudo-américain à Washington DC

WASHINGTON : L’Autorité saoudienne des données et de l’intelligence artificielle (SDAIA) a signé sept accords stratégiques avec des entreprises technologiques américaines de premier plan dans le cadre des efforts visant à accélérer la transformation numérique du Royaume et à développer ses capacités en intelligence artificielle (IA).

Les accords ont été signés en marge du Forum d’investissement saoudo-américain à Washington DC, qui a rassemblé des hauts responsables, dignitaires, PDG et cadres de grandes entreprises saoudiennes et américaines, a rapporté l’Agence de presse saoudienne (SPA).

La cérémonie de signature a été dirigée par le président de la SDAIA, Abdullah Alghamdi, a ajouté la SPA.

Ces accords couvrent un large spectre de collaborations visant à renforcer l’infrastructure des données, développer les compétences nationales et promouvoir l’adoption de l’IA dans des secteurs clés.

Dans le cadre d’un partenariat, Supermicro travaillera avec la SDAIA sur des solutions serveur, la conception de centres de données, des événements centrés sur l’IA, des programmes de formation et des initiatives d’apprentissage en ligne destinées à développer l’expertise locale.

Dell coopérera avec la SDAIA pour accélérer l’adoption des technologies IA grâce à l’amélioration de l’infrastructure, au transfert de connaissances et à des initiatives de renforcement des capacités nationales.

Un accord distinct avec Accenture permettra aux deux parties d’échanger leur expertise pour renforcer les capacités de leadership en IA. Le partenariat comprend le développement des infrastructures de données et d’IA, le soutien à la transformation de la main-d’œuvre et la sensibilisation du public à l’importance de l’adoption de l’IA.

La collaboration de Cisco se concentrera sur l’accélération de la transformation numérique dans le secteur public, la promotion d’initiatives IA et le développement d’environnements de centres de données évolutifs et dotés d’IA.

L’accord-cadre de la SDAIA avec Boomi renforcera l’innovation au sein de l’écosystème IA du Royaume grâce au développement de centres de données IA alimentés par la technologie Boomi, ainsi qu’à des programmes plus larges d’échange de connaissances.

SambaNova soutiendra la SDAIA à travers des événements conjoints, des camps de formation, le partage de connaissances et des campagnes de sensibilisation pour renforcer les capacités nationales en IA et en données.

Par ailleurs, GitLab explorera des opportunités conjointes dans le développement des compétences, les projets d’innovation, les solutions commerciales et l’expansion de la portée mondiale des applications IA développées en Arabie saoudite.

Ce texte est la traduction d’un article paru sur Arabnews.com


BNP Paribas rehausse ses objectifs de solidité financière et bondit en Bourse

Plus ce ratio est élevé, plus une banque est capable d'absorber, grâce à son capital, des pertes liées à des crédits non honorés ou à des investissements risqués. (AFP)
Plus ce ratio est élevé, plus une banque est capable d'absorber, grâce à son capital, des pertes liées à des crédits non honorés ou à des investissements risqués. (AFP)
Short Url
  • Une banque peut améliorer ce ratio soit en augmentant ses fonds propres, par exemple en mettant en réserve ses bénéfices ou en émettant des actions, soit en réduisant ses crédits et investissements risqués
  • Les exigences de CET1 applicables aux banques françaises se situent généralement entre 9% et 10%

PARIS: Le groupe bancaire français BNP Paribas gagnait plus de 5% jeudi matin à la Bourse de Paris, après avoir annoncé qu'il visait un ratio de solvabilité supérieur d'ici 2027.

Son titre prenait 5,79% vers 08H15 GMT, à 70,93 euros, en première place d'un CAC 40 en hausse de 1,13%. BNP Paribas table désormais sur un "ratio CET1 fixé à 13% à l'horizon 2027".

Plus ce ratio est élevé, plus une banque est capable d'absorber, grâce à son capital, des pertes liées à des crédits non honorés ou à des investissements risqués.

Une banque peut améliorer ce ratio soit en augmentant ses fonds propres, par exemple en mettant en réserve ses bénéfices ou en émettant des actions, soit en réduisant ses crédits et investissements risqués.

Les exigences de CET1 applicables aux banques françaises se situent généralement entre 9% et 10%.

BNP Paribas vise aussi une amélioration "continue" de son coefficient d'exploitation, un indicateur de rentabilité qui rapporte les coûts fixes au produit net bancaire (équivalent du chiffre d'affaires pour les banques).

L'objectif est qu'il atteigne 61% en 2026 et 58% en 2028, "un engagement fort de maîtrise des coûts", selon le communiqué.

BNP Paribas souhaite par ailleurs rester "à l'écoute de [ses] actionnaires grâce à une politique de distribution attractive et disciplinée", a expliqué Jean-Laurent Bonnafé, directeur général de BNP Paribas, cité dans un communiqué.

Le groupe a aussi annoncé qu'il lancerait courant novembre son programme de rachat d'actions de 1,15 milliard d'euros, dans le cadre de sa distribution du résultat de 2025.