Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023.  (Photo Patrick T. Fallon AFP)
Sam Altman, PDG d'OpenAI, s'exprime lors de la conférence WSJ Tech Live du Wall Street Journal à Laguna Beach, en Californie, le 17 octobre 2023. (Photo Patrick T. Fallon AFP)
Short Url
Publié le Mardi 21 novembre 2023

Crise existentielle chez OpenAI, la crainte de dérives de l'IA en question

  • Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés
  • Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains

SAN FRANCISCO, États-Unis : Roi de l'intelligence artificielle générative depuis un an, OpenAI est menacé de disparition après le débarquement de son patron, Sam Altman, qui a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l'IA.

Lundi soir, près de 700 des quelque 770 employés de la start-up californienne avaient signé la lettre promettant leur départ si le conseil d'administration refusait de démissionner, selon plusieurs médias.

Le conseil reprochait a Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT, sans prendre le temps d'analyser les risques associés, ont rapporté des médias américains.

Pour Brendan Dolan-Gavitt, professeur d'informatique à l'université NYU Tandon, cette thèse est validée par l'arrivée d'Emmett Shear, désigné pour succéder à Sam Altman. «Il a souvent exprimé sa préoccupation quant à la sûreté de l'intelligence artificielle», rappelle l'universitaire.

«On en est arrivé là parce que de minuscules risques ont été amplifiés par des esprits amateurs de science-fiction et des journalistes à sensation», a dénoncé, dans une tribune publié par le site The Information, Vinod Khosla, fondateur de la société de capital-investissement Khosla Ventures, actionnaire d'OpenAI.

Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains.

«Il est temps de s'intéresser aux risques de l'IA, mais pas au point de ralentir le progrès et de nous priver de ses avantages», a plaidé Vinod Khosla.

Les événements des derniers jours ont mis en évidence les limites du modèle d'OpenAI, qui voulait placer sous le contrôle d'une holding à but non lucratif une société sur laquelle des acteurs financiers ont misé des milliards de dollars.

Les administrateurs «avaient perdu le sens des réalités», a estimé Carolina Milanesi, du cabinet Creative Strategies. «Comment pouvez-vous rester une société à but non lucratif une fois que vous acceptez ces montants de gens comme Microsoft?»

Le géant de Redmond (Etat du Washington) a débloqué, selon plusieurs médias, une enveloppe de dix milliards de dollars pour son partenariat avec OpenAI, notamment en lui offrant des capacités massives de traitement des données pour développer ses modèles.

- Microsoft en vainqueur –

La séquence «met en lumière le fait qu'on ne peut pas laisser les entreprises auto-réguler l'IA, alors qu'il existe des divergences au sein de leur propre gouvernance», a commenté, sur X (ex-Twitter), Gary Marcus, spécialiste d'intelligence artificielle et entrepeneur.

«S'il vous plaît, ne renoncez pas à l'+AI Act+; nous en avons plus besoin que jamais», a-t-il poursuivi, en référence au texte destiné à encadrer l'intelligence artificielle et en cours de discussion au sein de l'Union européenne.

Le schisme d'OpenAI «va accélérer beaucoup de choses sur le front de la régulation», a prévenu Ryan Steelberg, directeur général de Veritone, société d'analyse de données grâce à l'IA.

Pour autant, «cela ne va pas ralentir la course à l'IA générative», prévient Carolina Milanesi. «Il s'agit simplement de péripéties de salle de réunion, qui mettent Microsoft en meilleure position.»

Même si la situation est loin d'être figée chez OpenAI, le créateur de Windows apparaît déjà comme le grand vainqueur de cette saga.

Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI.

Selon Miguel Fierro, cadre de Microsoft, le directeur général Satya Nadella s'est engagé à embaucher tous les salariés d'OpenAI qui choisiraient de démissionner, faute de départ des administrateurs.

Le géant des systèmes d'exploitation devenu monstre de l'informatique à distance (cloud) et de l'IA aurait alors absorbé les forces vives d'OpenAI sans avoir à se préoccuper de l'aval du régulateur.

«Si Microsoft avait essayé d'acheter OpenAI, ils n'auraient jamais eu le feu vert des autorités de la concurrence», considère Carolina Milanesi.

«Microsoft vient de réaliser l'acquisition la moins chère jamais vue», a abondé Paul Barrett, directeur adjoint du centre des affaires et des droits humains de l'université NYU Stern.

«Mon souci», tempère l'universitaire, «c'est que cela va accélérer la course à l'IA», menée par des entreprises privées, à but lucratif, «et faire oublier aux gens que tout cela devrait faire l'objet d'un débat public.»


La note française menacée de passer en catégorie inférieure dès vendredi

La dette française s'y négocie déjà à un taux bien plus coûteux que la dette allemande, dépassant même l'espace d'une journée, mardi, le taux de la dette italienne. (AFP)
La dette française s'y négocie déjà à un taux bien plus coûteux que la dette allemande, dépassant même l'espace d'une journée, mardi, le taux de la dette italienne. (AFP)
Short Url
  • La dette française s'y négocie déjà à un taux bien plus coûteux que la dette allemande, dépassant même l'espace d'une journée, mardi, le taux de la dette italienne
  • Les marchés donnent déjà à la France une "notation implicite" bien plus basse que sa note actuelle de AA-, estime M. Morlet-Lavidalie

PARIS: Fitch sera-t-elle vendredi la première agence de notation à faire passer la note souveraine française en catégorie inférieure? Les économistes, qui le pensaient il y a quelques jours, discernent des raisons d'en douter, mais ce ne pourrait être que partie remise.

Fitch ouvre le bal des revues d'automne des agences de notation. Toutes, au vu de l'état des finances publiques françaises et de la crise politique persistante depuis la dissolution, classent la France AA- ou équivalent (qualité de dette "haute ou bonne"), avec, pour certaines comme Fitch, une "perspective négative".

Ce qui préfigure une dégradation: en ce cas, la France basculerait en catégorie A (qualité "moyenne supérieure"), et devrait verser à ceux qui investissent dans sa dette une prime de risque supérieure, accroissant d'autant les remboursements de cette dette.

Pour Eric Dor, directeur des études économiques à l'IESEG School of Management, une dégradation serait "logique". D'abord parce que la situation politique n'aide pas à mettre en œuvre "un plan crédible d'assainissement budgétaire", comme Fitch l'exigeait en mars.

Mais aussi pour effacer "une incohérence" : 17 pays européens sont moins bien notés que la France alors qu'ils ont - à très peu d'exceptions près - des ratios de finances publiques meilleurs que les 5,8% du PIB de déficit public et 113% du PIB de dette publique enregistrés en France en 2024.

Coup d'envoi 

Depuis mardi, la nomination rapide à Matignon de Sébastien Lecornu pour succéder à François Bayrou, tombé la veille lors du vote de confiance, ravive l'espoir d'un budget 2026 présenté en temps et heure.

Lucile Bembaron, économiste chez Asterès, juge ainsi "plausible" que Fitch "attende davantage de visibilité politique" pour agir.

D'autant, remarque Hadrien Camatte, économiste France chez Natixis, que les finances publiques n'ont pas enregistré cette année de nouveau dérapage inattendu, et que "la croissance résiste".

L'Insee a même annoncé jeudi qu'en dépit du "manque de confiance" généralisé, celle-ci pourrait dépasser la prévision du gouvernement sortant - 0,7% - pour atteindre 0,8% cette année.

Anthony Morlet-Lavidalie, responsable France à l'institut Rexecode, observe aussi que Fitch, la plus petite des trois principales agences internationales de notation, "donne rarement le coup d'envoi" des dégradations.

Mais il estime "très probable" que la principale agence, S&P Global, abaissera le pouce lors de sa propre revue, le 28 novembre.

Selon ses calculs, la France ne sera en effet pas en mesure de réduire à moins de 5% son déficit public l'an prochain, contre les 4,6% qu'espérait François Bayrou.

Les économistes affirment cependant qu'une dégradation ne troublerait pas les marchés, "qui l'ont déjà intégrée", relève Maxime Darmet, économiste senior chez Allianz Trade.

Syndrome 

La dette française s'y négocie déjà à un taux bien plus coûteux que la dette allemande, dépassant même l'espace d'une journée, mardi, le taux de la dette italienne.

Les marchés donnent déjà à la France une "notation implicite" bien plus basse que sa note actuelle de AA-, estime M. Morlet-Lavidalie.

Il craint des taux qui resteraient "durablement très élevés", provoquant "un étranglement progressif", avec des intérêts à rembourser captant "une part significative de la dépense publique, alors qu'on a des besoins considérables sur d'autres postes".

L'économiste décrit une France en proie au "syndrome du mauvais élève".

"Lorsqu'on avait 20/20", explique-t-il - la France était jusqu'à 2012 notée AAA, note maximale qu'a toujours l'Allemagne - "on faisait tout pour s'y maintenir. Maintenant on dit que 17/20 (AA-) ça reste une très bonne note. Bientôt ce sera +tant qu'on est au-dessus de la moyenne, c'est pas si mal+. Quand on est la France, en zone euro, on devrait quand même être un peu plus ambitieux que cela!", dit-il à l'AFP.

Pour autant, même abaissée à A+, "la dette française resterait de très bonne qualité", relativise M. Camatte, préférant souligner "la forte épargne des ménages et une position des entreprises qui reste très saine".


La précarité s'ancre dans le quotidien des Français, alerte le Secours populaire

Revenus insuffisants, dépense imprévue, endettement excessif: au final, un Français sur cinq s'estime précaire pour différentes raisons, soit 20% de la population, contre 24% l'an dernier. (AFP)
Revenus insuffisants, dépense imprévue, endettement excessif: au final, un Français sur cinq s'estime précaire pour différentes raisons, soit 20% de la population, contre 24% l'an dernier. (AFP)
Short Url
  • "La précarité est toujours plus ancrée en France, elle interfère dans tous les aspects de la vie, que ce soit la santé, les loisirs, la vie familiale", estime auprès de l'AFP Henriette Steinberg, secrétaire générale du Secours populaire
  • "La situation en France s'est détériorée" depuis une quinzaine d'années et dernièrement "on observe une stabilisation", précise Henriette Steinberg

PARIS: La précarité s'ancre dans le quotidien des Français, touchant tous les aspects de la vie des plus fragiles, alerte jeudi le Secours Populaire, qui publie un baromètre témoignant de cette situation jugée préoccupante.

"La précarité est toujours plus ancrée en France, elle interfère dans tous les aspects de la vie, que ce soit la santé, les loisirs, la vie familiale", estime auprès de l'AFP Henriette Steinberg, secrétaire générale du Secours populaire.

L'association publie un baromètre qui indique qu'un tiers des Français (31%) rencontrent des difficultés financières pour se procurer une alimentation saine permettant de faire trois repas par jour. De même 39% ont du mal à payer leurs dépenses d'électricité et 49% à partir en vacances au moins une fois par an, selon ce sondage réalisé par l'Institut Ipsos, auprès d'un échantillon de 1.000 personnes, représentatif de la population nationale âgée de 18 ans et plus, selon la méthode des quotas.

"La situation en France s'est détériorée" depuis une quinzaine d'années et dernièrement "on observe une stabilisation", précise Henriette Steinberg.

Revenus insuffisants, dépense imprévue, endettement excessif: au final, un Français sur cinq s'estime précaire pour différentes raisons, soit 20% de la population, contre 24% l'an dernier.

Malgré un "léger mieux" constaté sur certains indicateurs lié au "ralentissement de l'inflation", ce baromètre révèle "une situation sociale toujours très préoccupante", selon le Secours populaire.

En début de semaine, la déléguée interministérielle à la prévention et la lutte contre la pauvreté, Anne Rubinstein, a évoqué des "difficultés" rencontrées par l'Etat pour résorber un taux de pauvreté qui a atteint un niveau record en 2023 en France métropolitaine.

Face à cette situation, la Fédération des acteurs de la solidarité (FAS) a appelé mardi à une "mobilisation collective" pour "débloquer la lutte contre la précarité".

Au niveau européen, 28% de la population déclare se trouver en situation précaire, également selon ce baromètre du Secours Populaire, qui s'appuie aussi sur des échantillons de 1.000 personnes représentatifs de neuf autres pays (Allemagne, Grèce, Italie, Pologne, Royaume-Uni, Moldavie, Portugal, Roumanie, Serbie).

La part des personnes se considérant comme précaires demeure à un niveau "très alarmant" en Grèce (46%) et en Moldavie (45%), pointe le baromètre.

En 2024, le Secours populaire a soutenu 3,7 millions de personnes en France. L'association fournit notamment de l'aide alimentaire et organise des activités pour différents publics pour rompre l'isolement.


Face à l'explosion des dépenses militaires, l'ONU appelle à «repenser les priorités»

Le secrétaire général de l'ONU Antonio Guterres a appelé mardi le monde à "repenser les priorités" en redirigeant une partie des dépenses militaires record vers le développement de l'humanité et la lutte contre la pauvreté. (AFP)
Le secrétaire général de l'ONU Antonio Guterres a appelé mardi le monde à "repenser les priorités" en redirigeant une partie des dépenses militaires record vers le développement de l'humanité et la lutte contre la pauvreté. (AFP)
Short Url
  • "Aujourd'hui, nous publions un rapport qui révèle une réalité saisissante: le monde dépense bien plus à faire la guerre qu'à construire la paix", a-t-il déclaré Antonio Guterres
  • Selon l'Institut international de recherche sur la paix de Stockholm (Sipri), les dépenses militaires mondiales ont atteint en 2024 près de 2.700 milliards de dollars, en hausse de plus de 9% sur un an

NATIONS-UNIES: Le secrétaire général de l'ONU Antonio Guterres a appelé mardi le monde à "repenser les priorités" en redirigeant une partie des dépenses militaires record vers le développement de l'humanité et la lutte contre la pauvreté.

"Aujourd'hui, nous publions un rapport qui révèle une réalité saisissante: le monde dépense bien plus à faire la guerre qu'à construire la paix", a-t-il déclaré Antonio Guterres.

Selon l'Institut international de recherche sur la paix de Stockholm (Sipri), les dépenses militaires mondiales ont atteint en 2024 près de 2.700 milliards de dollars, en hausse de plus de 9% sur un an.

C'est "l'équivalent de 334 dollars par habitant de la planète", "près de 13 fois le montant de l'aide publique au développement des pays les plus riches et 750 fois le budget ordinaire de l'ONU", a noté Antonio Guterres.

Et en parallèle, la majorité des Objectifs de développement durables (ODD) visant à améliorer le sort de l'humanité d'ici 2030 (éradication de l'extrême pauvreté, égalité hommes-femmes, éducation...) ne sont pas sur la bonne voie.

Pourtant, mettre un terme à la faim dans le monde d'ici 2030 nécessiterait seulement 93 milliards de dollars par an, soit 4% des dépenses militaires de 2024, et faire en sorte que chaque enfant soit totalement vacciné coûterait entre 100 et 285 milliards par an, note le rapport demandé par les Etats membres.

Au total, l'ONU estime aujourd'hui à 4.000 milliards de dollars les investissements supplémentaires nécessaires chaque année pour atteindre l'ensemble des ODD, un montant qui pourrait grimper à 6.400 milliards dans les prochaines années.

Alors le secrétaire général de l'ONU a lancé un "appel à l'action, un appel à repenser les priorités, un appel à rééquilibrer les investissements mondiaux vers la sécurité dont le monde a vraiment besoin".

"Des dépenses militaires excessives ne garantissent pas la paix, souvent elles la sapent, encourageant la course aux armements, renforçant la méfiance et détournant des ressources de ce qui représentent les bases de la stabilité", a-t-il ajouté. "Un monde plus sûr commence par investir au moins autant pour lutter contre la pauvreté que nous le faisons pour faire la guerre".

"Rediriger même une fraction des dépenses militaires actuelles pourraient combler des écarts vitaux, envoyer des enfants à l'école, renforcer les soins de santé de base, développer les énergies propres et des infrastructures résistantes, et protéger les plus vulnérables", a-t-il plaidé.