Si l'IA devait détruire l'humanité, comment s'y prendrait-elle ?

Le cauchemar, inspiré par d'innombrables films de science-fiction, débute lorsque les machines voient leurs capacités dépasser celles des humains et échappent à tout contrôle. (Photo, AFP)
Le cauchemar, inspiré par d'innombrables films de science-fiction, débute lorsque les machines voient leurs capacités dépasser celles des humains et échappent à tout contrôle. (Photo, AFP)
Short Url
Publié le Mercredi 28 juin 2023

Si l'IA devait détruire l'humanité, comment s'y prendrait-elle ?

  • «A partir du moment où nous aurons des machines qui cherchent à survivre, nous aurons des problèmes», a récemment affirmé le chercheur canadien Yoshua Bengio, l'un des pères de l'apprentissage automatique
  • Un scénario moins évident prévoit que soit utilisée l'intelligence artificielle pour créer des toxines ou des nouveaux virus, dans le but de les répandre dans le monde

PARIS: L'intelligence artificielle menace l'humanité d'"extinction", préviennent des experts et entrepreneurs de ce secteur en plein essor, appelant à une prise de conscience. Mais ce scénario catastrophe encore lointain est-il crédible ?

Trombones de la mort 

Le cauchemar, inspiré par d'innombrables films de science-fiction, débute lorsque les machines voient leurs capacités dépasser celles des humains et échappent à tout contrôle.

"A partir du moment où nous aurons des machines qui cherchent à survivre, nous aurons des problèmes", a récemment affirmé le chercheur canadien Yoshua Bengio, l'un des pères de l'apprentissage automatique.

Selon une variante imaginée par le philosophe suédois Nick Bostrom, le moment décisif surviendra lorsque les machines sauront fabriquer elles-mêmes d'autres machines, provoquant une "explosion de l'intelligence".

Selon sa "théorie du trombone", si une IA avait par exemple pour but ultime d'optimiser la production de cet accessoire de papeterie, elle finirait par couvrir "d'abord la Terre puis des morceaux de plus en plus importants de l'Univers avec des trombones", illustre-t-il.

Nick Bostrom est un personnage controversé, après avoir affirmé que l'humanité pouvait être une simulation informatique, ou soutenu des théories proches de l'eugénisme. Il a aussi dû s'excuser récemment pour un message raciste envoyé dans les années 90, qui avait refait surface.

Pourtant, ses idées sur les dangers de l'IA restent très influentes, et ont inspiré à la fois le milliardaire Elon Musk, patron de Tesla et SpaceX, et le physicien Stephen Hawking, décédé en 2018.

Terminator 

L'image du cyborg aux yeux rouges de "Terminator", envoyé du futur par une IA pour mettre fin à toute résistance humaine, a particulièrement marqué l'inconscient collectif.

Mais selon les experts de la campagne "Stop Killer Robots" ("Non aux robots tueurs"), ce n'est pas sous cette forme que s'imposeront les armes autonomes dans les années à venir, écrivaient-ils dans un rapport en 2021.

"L'intelligence artificielle ne confèrera pas aux machines le désir de tuer des humains", rassure la spécialiste de la robotique Kerstin Dautenhahn, de l'université de Waterloo au Canada, interrogée par l'AFP.

"Les robots ne sont pas diaboliques", affirme-t-elle, tout en concédant que leurs développeurs pourraient les programmer pour faire du mal.

Armes chimiques 

Un scénario moins évident prévoit que soit utilisée l'intelligence artificielle pour créer des toxines ou des nouveaux virus, dans le but de les répandre dans le monde.

Un groupe de scientifiques qui utilisait l'IA pour découvrir de nouveaux médicaments a ainsi mené une expérience au cours de laquelle ils l'ont modifiée pour qu'elle recherche plutôt des molécules nocives.

En moins de six heures, ils ont réussi à générer 40 000 agents potentiellement toxiques, d'après un article de la revue Nature Machine Intelligence.

Grâce à ces technologies, quelqu'un pourrait enfin trouver le moyen de répandre plus rapidement un poison tel que l'anthrax, a déclaré Joanna Bryson, experte en IA à la Hertie School de Berlin.

"Mais ce n'est pas une menace existentielle, juste une arme épouvantable", dit-elle à l'AFP.

Une espèce dépassée 

Dans les films d'apocalypse, la catastrophe arrive soudainement et partout à la fois. Mais quid si l'humanité disparaissait progressivement, remplacée par des machines ?

"Dans le pire des cas, notre espèce pourrait s'éteindre sans successeur", anticipe le philosophe Huw Price dans une vidéo de promotion du centre pour l'étude des risques existentiels de l'université de Cambridge.

Il existe cependant des "possibilités moins sombres", où des humains augmentés par une technologie avancée pourraient survivre. "L'espèce purement biologique finit alors par s'éteindre", poursuit-il.

En 2014, Stephen Hawking avait argumenté que notre espèce ne serait plus un jour en capacité de rivaliser avec les machines, déclarant à la BBC que cela "sonnerait le glas de la race humaine".

Geoffrey Hinton, un chercheur qui tente de créer des machines ressemblant au cerveau humain, dernièrement pour Google, a évoqué en des termes similaires des "superintelligences" supérieures aux humains.

A la chaîne américaine PBS, il a affirmé récemment qu'il était possible que l'"humanité ne soit qu'une phase passagère dans l'évolution de l'intelligence".


Pour Liam Cunningham, star de « Game of Thrones », le monde « n'oubliera pas » ceux qui sont restés silencieux sur Gaza

L'acteur irlandais Liam Cunningham a déclaré que le public « n'oubliera pas » ceux qui n'ont pas exprimé leur soutien aux Palestiniens pendant le conflit entre Israël et le Hamas à Gaza. (AP/File Photo)
L'acteur irlandais Liam Cunningham a déclaré que le public « n'oubliera pas » ceux qui n'ont pas exprimé leur soutien aux Palestiniens pendant le conflit entre Israël et le Hamas à Gaza. (AP/File Photo)
Short Url
  • L'Irlandais est un ardent défenseur de la cause palestinienne depuis des décennies
  • « Ce qui me préoccupe, c'est que les personnes qui se sentent concernées et qui ne font rien sont, à mon avis, pires que celles qui ne se sentent pas concernées », a-t-il déclaré

LONDRES : L'acteur irlandais Liam Cunningham a déclaré que le public « n'oubliera pas » ceux qui n'ont pas exprimé leur soutien aux Palestiniens pendant le conflit actuel entre Israël et le Hamas à Gaza.

La star de « Game of Thrones » est un fervent défenseur des causes palestiniennes depuis des décennies. Lors d'une manifestation à Dublin menée par l'Irlando-Palestinien Ahmed Alagha, qui a perdu 44 membres de sa famille dans le récent assaut israélien contre Gaza, Cunningham a déclaré qu'il avait été félicité par ses pairs dans le passé pour son activisme.

« Ce qui me préoccupe, c'est que les personnes qui se sentent concernées et qui ne font rien sont, à mon avis, pires que celles qui ne se sentent pas concernées », a-t-il déclaré.

On a demandé à Cunningham s'il avait parlé à d'autres acteurs pour les convaincre de soutenir la cause palestinienne, mais il a répondu en disant qu'il ne pouvait répondre des autres, a rapporté The Independent.

Il a toutefois ajouté : « Internet n'oublie pas. Lorsque cela se produira, lorsque la CIJ (Cour internationale de justice) et la CPI (Cour pénale internationale) feront, je l'espère, leur travail honorablement, cela se saura », a-t-il déclaré.

« Et les gens qui n'ont pas parlé ne seront pas oubliés. Ce génocide est retransmis en direct et il n'est pas possible de dire que l'on ne savait pas. Vous saviez. Et vous n'avez rien fait. Vous êtes restés silencieux. Je dois pouvoir me regarder dans le miroir, et c'est pourquoi je parle », a-t-il ajouté.

Un mois après qu'Israël a lancé son assaut sur Gaza en réponse aux incursions du Hamas sur le territoire israélien, le 7 octobre, qui ont fait près de 1 200 morts et quelque 250 otages, Cunningham a déclaré que, pour les Irlandais, ignorer le traitement réservé aux Palestiniens reviendrait à « trahir » leur histoire.

« Si nous nous permettons d'accepter ce comportement, alors nous acceptons que cela nous arrive », avait-il déclaré à l'époque. « Nous devons défendre des normes. Nous devons défendre le droit international et cela nous réduit en tant qu'êtres humains si nous ne le faisons pas ».

L'assaut israélien sur Gaza a tué plus de 34 000 Palestiniens, dont environ deux tiers d'enfants et de femmes, selon les autorités sanitaires de l'enclave dirigées par le Hamas.

Ce texte est la traduction d'un article paru sur Arabnews.com


Le pape François à Venise, son premier déplacement en sept mois

Le pape François salue lors d'une audience avec des pèlerins hongrois dans la salle Paul VI du Vatican, le 25 avril 2024 (Photo, AFP).
Le pape François salue lors d'une audience avec des pèlerins hongrois dans la salle Paul VI du Vatican, le 25 avril 2024 (Photo, AFP).
Short Url
  • En se rendant à Venise pour la première fois depuis son élection en 2013, le pape entend d'abord rassurer sur sa capacité à assurer son ministère
  • Depuis sa visite à Marseille en septembre 2023, Jorge Bergoglio n'a plus voyagé

VATICAN: Le pape François, 87 ans, est attendu dimanche à Venise pour une visite éclair, son premier déplacement hors de Rome en sept mois en raison de son état de santé précaire.

Depuis sa visite à Marseille en septembre 2023, Jorge Bergoglio n'a plus voyagé. Une bronchite l'a contraint à annuler son voyage à Dubaï en décembre et son état général, de plus en plus fragile, à éviter les déplacements.

En se rendant à Venise pour la première fois depuis son élection en 2013, le pape entend d'abord rassurer sur sa capacité à assurer son ministère, quelques semaines après les inquiétudes suscitées par son accès de fatigue au moment des fêtes de Pâques.

François doit arriver en hélicoptère à 08H00 (06H00 GMT) à la prison pour femmes de l'île de la Giudecca, qui abrite le pavillon du Saint-Siège à la 60e Biennale d'art contemporain de Venise.

Dans cet ancien couvent qui accueille des femmes condamnées à de longues peines, l'évêque de Rome, sensible à la place des marginalisés, rencontrera les 80 détenues et visitera l'exposition qu'elles ont montée aux côtés de dix artistes.

A l'écart des projecteurs et de la foule, le pavillon du Saint-Siège est l'un des plus en vue de la prestigieuse manifestation d'art et propose aux visiteurs une expérience immersive et déroutante, où les œuvres côtoient les barbelés.

"Ce sera un moment historique puisqu'il sera le premier pape à visiter la Biennale de Venise", a estimé le conservateur de l'exposition, le cardinal portugais José Tolentino de Mendonça, lors d'une conférence de presse.

Cela "démontre clairement la volonté de l'Eglise de consolider un dialogue fructueux et étroit avec le monde des arts et de la culture".

Messe place Saint-Marc 

Chiara Parisi, commissaire de l'exposition, a souligné "l'émerveillement" et "l'espérance" des détenues vis-à-vis de cette visite.

"Le pape agit au-delà de la parole" en se déplaçant auprès d'elles, des "personnes qui ont à cœur de jouer un rôle même quand elles sont dans une situation très dure", a-t-elle déclaré à l'AFP.

Le pape s'exprimera ensuite devant des jeunes à 10H00 (08H00 GMT) devant l'emblématique basilique Santa Maria della Salute, dont le dôme majestueux domine l'entrée sud du Grand Canal, à deux pas de la place Saint-Marc.

Après avoir rejoint la célèbre place grâce à un pont éphémère, il présidera une grande messe à 11H00 (09H00 GMT) en présence de nombreux responsables politiques et religieux. Il quittera la Lagune en début d'après-midi pour rentrer au Vatican.

Après Paul VI (1972), Jean-Paul II (1985) et Benoit XVI (2011), François est le quatrième pape à se rendre dans la Cité des Doges.

L'histoire de la Sérénissime est étroitement liée à celle de la papauté. Au XXe siècle, trois patriarches de Venise sont devenus papes.

Le diocèse de Venise est un des plus grands de la péninsule avec 125 paroisses. Venise est en outre l'un des rares patriarcats de l'Eglise latine.

La visite du pape intervient le week-end d'introduction d'une entrée payante de cinq euros pour les touristes à la journée: en tant qu'invité, il devrait en être exempté, mais les pèlerins non résidents y seront soumis.

Après ce déplacement, le jésuite argentin doit effectuer deux autres voyages dans le nord de l'Italie, à Vérone en mai et à Trieste en juillet.

Cette visite intervient aussi alors que le Vatican vient d'officialiser une ambitieuse tournée papale aux confins de l'Asie et de l'Océanie en septembre (Indonésie, Papouasie-Nouvelle-Guinée, Timor oriental et Singapour), le plus long voyage de son pontificat, qui s'annonce comme un ambitieux défi sur le plan physique.


Tanger, le «havre de liberté» des grands noms du jazz

Abdellah El Gourd, légende marocaine de la musique gnawa âgée de 77 ans, pose pour une photo dans la vieille ville de Tanger le 23 avril 2024 (Photo, AFP).
Abdellah El Gourd, légende marocaine de la musique gnawa âgée de 77 ans, pose pour une photo dans la vieille ville de Tanger le 23 avril 2024 (Photo, AFP).
Short Url
  • Cette année, la cité, bordée par la Méditerranée et l'Atlantique, a été désignée ville-hôte de la Journée internationale du jazz, par l'Unesco
  • Randy Weston et Abdellah El Gourd vont de leur côté repousser les limites de la création, devenant les précurseurs de la fusion entre sonorités jazz et gnaoua

TANGER: Au siècle dernier, Randy Weston, Idrees Sulieman ou Max Roach ont traversé l'Atlantique pour découvrir Tanger, devenue le repère des grands jazzmen américains. Un héritage qui sera célébré mardi dans la métropole du nord du Maroc, lors de la Journée internationale du jazz.

"La ville a eu un pouvoir d'attraction fascinant sur une vague d'intellectuels et musiciens. Ce n'est pas pour rien qu'un écrivain disait qu'il y avait toujours un paquebot qui chauffait à New York en partance pour Tanger", explique à l'AFP Philippe Lorin, fondateur d'un festival de jazz dans la grande ville portuaire.

Cette année, la cité, bordée par la Méditerranée et l'Atlantique, a été désignée ville-hôte de la Journée internationale du jazz, par l'Unesco. A partir de samedi, elle abrite des conférences et spectacles en plein air qui culmineront dans un grand concert mondial avec le pianiste Herbie Hancock et les bassistes Marcus Miller et Richard Bona ou le guitariste Romero Lubambo.

Le cosmopolitisme de Tanger puise ses racines dans son statut d'ancienne zone internationale, administrée par plusieurs puissances coloniales de 1923 jusqu'en 1956 quand le Maroc a pris son indépendance.

Son rayonnement a été alimenté par le passage d'écrivains et poètes du mouvement littéraire de la "beat generation" mais aussi de jazzmen afro-américains "en quête de leurs racines africaines", souligne l'historien Farid Bahri, auteur de "Tanger, une histoire-monde du Maroc".

"Tanger était un havre de liberté comme l'est la musique jazz", note M. Lorin.

Weston débarque à Tanger 

"La présence des musiciens américains à Tanger était également liée à une diplomatie américaine très active", complète l'historien marocain.

Le célèbre pianiste Randy Weston a posé ses valises durant cinq ans à Tanger après une tournée dans 14 pays africains en 1967, organisée par le département d'Etat américain.

Le virtuose de Brooklyn a joué un rôle déterminant dans la construction du mythe de la ville du détroit, à laquelle il a dédié son album "Tanjah" (1973).

"Randy était un homme d'exception aimable et respectueux, il a beaucoup donné à la ville et ses musiciens", confie à l'AFP Abdellah El Gourd, un maître gnaoua (musique spirituelle originaire d'Afrique de l'ouest, introduite par les descendants d'esclaves), ami et collaborateur du pianiste américain décédé en 2018.

Un autre moment charnière de cette épopée est l'enregistrement en 1959 d'une session musicale avec le vénérable trompettiste Idrees Sulieman, le pianiste Oscar Dennard, le contrebassiste Jamil Nasser et le batteur Buster Smith au studio de la Radio Tanger International (RTI) à l'invitation de Jacques Muyal.

Ce Tangérois d'à peine 18 ans, animateur d'une émission de jazz sur RTI, produit alors, avec les moyens du bord et sans le savoir, un album de référence qui circulera dans les cercles de jazz avant son édition sous le titre "The 4 American Jazzmen In Tangier" en 2017.

«Expérience unique»

Randy Weston et Abdellah El Gourd vont de leur côté repousser les limites de la création, devenant les précurseurs de la fusion entre sonorités jazz et gnaoua.

"La barrière de la langue n'a jamais été un problème car notre communication se faisait à travers les gammes. Notre langage était la musique", raconte M. El Gourd, dans une salle de répétition aux murs tapissés de photos souvenirs de tournées internationales notamment avec Weston et le saxophoniste Archie Shepp.

Une longue collaboration qui donnera naissance 25 ans plus tard à l'album "The Splendid Master Gnawa Musicians of Morocco" (1992).

En 1969, le pianiste américain décide d'ouvrir un club de jazz baptisé "African Rythms Club" au-dessus du célèbre cinéma Mauritania.

"On répétait là-bas, Randy y invitait ses amis musiciens. C'était une belle époque", se remémore le maâlem (maître) de 77 ans qui a parcouru le monde aux côtés de Weston.

Puis en 1972, l'Américain se lance dans la folle aventure d'organiser un premier festival de jazz à Tanger avec des invités de marques dont le percussionniste Max Roach, le flûtiste Hubert Laws, le contrebassiste Ahmed Abdul-Malik, le saxophoniste Dexter Gordon mais aussi Abdellah El Gourd.

"C'était une expérience assez unique car c'était la première fois qu'on jouait devant un public aussi nombreux", se souvient le musicien, jusqu'alors habitué aux performances gnaouas réservées à l'époque à des cercles restreints.

L'expérience ne durera qu'une seule édition mais inspirera Philippe Lorin pour créer, près de trois décennies plus tard, le festival Tanjazz, organisé chaque année en septembre.