Piéger les oeuvres, l'arme des artistes contre l'IA sauvage

Cette photographie montre l'installation numérique générative "Celestial Vaults" de l'artiste mexicain Miguel Chevalier projetée sur les voûtes de l'église de l'Incarnation pendant la "Gau Zuria" (nuit blanche) dans la ville basque espagnole de Bilbao le 17 juin 2022. (Photo par Ander Gillenea AFP)
Cette photographie montre l'installation numérique générative "Celestial Vaults" de l'artiste mexicain Miguel Chevalier projetée sur les voûtes de l'église de l'Incarnation pendant la "Gau Zuria" (nuit blanche) dans la ville basque espagnole de Bilbao le 17 juin 2022. (Photo par Ander Gillenea AFP)
Short Url
Publié le Dimanche 24 décembre 2023

Piéger les oeuvres, l'arme des artistes contre l'IA sauvage

  • Le logiciel Glaze est un programme qui ajoute aux illustrations des pixels, invisibles à l'oeil humain, pour perturber le travail de l'IA
  • Des géants de l'IA générative ont passé des accords pour s'assurer des droits d'utilisation de certains contenus, mais la grande majorité des données, images, textes ou sons utilisés pour développer des modèles l'ont été sans consentement explicite

NEW YORK : Face à l'exploitation sauvage de données par certains développeurs d'intelligence artificielle (IA), des artistes piègent volontairement leurs créations pour les rendre inutilisables, avec l'aide de chercheurs universitaires.

Paloma McClain est une illustratrice américaine. Plusieurs logiciels d'IA générative permettent déjà de créer des images inspirées de son style, alors que l'artiste n'a jamais donné son accord et n'en retirera rien financièrement.

«Cela me dérangeait», explique la dessinatrice, basée à Houston (Texas). «Je ne suis pas une artiste connue, mais j'étais mal à l'aise à l'idée que mon travail serve à entraîner» un modèle d'IA.

Pour y remédier, elle a passé ses oeuvres à travers le logiciel Glaze, un programme qui ajoute à ses illustrations des pixels, invisibles à l'oeil humain, pour perturber le travail de l'IA.

Après ce traitement, les images créées sont floues, les visages brouillés, sans comparaison avec les originaux.

«Nous essayons de fournir les outils technologiques pour protéger les créateurs humains contre les abus des modèles d'IA générative», explique Ben Zhao, chercheur à l'Université de Chicago, dont l'équipe a créé Glaze.

Alerté en novembre 2022, ce professeur d'informatique a développé le logiciel en quatre mois à peine, se servant de travaux antérieurs destinés à perturber la reconnaissance faciale.

«On a travaillé à toute vitesse, parce que nous savions que le problème était grave», raconte Ben Zhao. «Beaucoup de gens étaient en souffrance.»

Des géants de l'IA générative ont passé des accords pour s'assurer des droits d'utilisation de certains contenus, mais la grande majorité des données, images, textes ou sons utilisés pour développer des modèles l'ont été sans consentement explicite.

Depuis son lancement, Glaze a été téléchargé plus de 1,6 million de fois, selon le chercheur, dont l'unité s'apprête à lancer un nouveau programme, baptisé Nightshade.

Il est axé sur les requêtes en langage courant (prompts) que l'utilisateur d'un modèle d'IA générative soumet pour obtenir une nouvelle image. Il vise à faire dérailler l'algorithme, qui proposera ensuite, par exemple, une image de chat alors qu'un chien a été demandé.

- Protéger aussi la voix -

Autre initiative, celle de la start-up Spawning, qui a mis au point Kudurru, logiciel qui détecte les tentatives de collecte massive sur des plateformes d'images.

L'artiste a alors le choix de bloquer l'accès à ses travaux ou d'envoyer une autre image que celle qui était demandée, «ce qui revient à empoisonner» le modèle d'IA en développement et d'affecter sa fiabilité, décrit Jordan Meyer, cofondateur de Spawning.

Plus de mille sites internet sont déjà intégrés au réseau Kudurru.

Spawning a aussi créé Have I Been Trained? (haveibeentrained.com), un site qui permet de savoir si des images ont alimenté un modèle d'IA et d'offrir à leur propriétaire la possibilité de les protéger contre de futures utilisations non autorisées.

Au-delà de l'image, des chercheurs de l'université de Washington à St. Louis (Missouri) se sont, eux, intéressés au son et ont mis au point AntiFake.

Ce logiciel enrichit un fichier son de bruits supplémentaires, imperceptibles à l'oreille humaine, qui rendent impossible l'imitation crédible d'une voix humaine, détaille Zhiyuan Yu, thésard à l'origine du projet.

Le programme vise notamment à empêcher les «deepfakes», des montages photos ou vidéos hyperréalistes usant de l'apparence d'une personne, souvent célèbre, pour lui faire faire ou dire quelque chose.

L'équipe, supervisée par le professeur Ning Zhang, a récemment été contactée par les producteurs d'un podcast à succès qui souhaitaient le protéger de détournements, selon Zhiyuan Yu.

S'il n'a, pour l'instant, été utilisé que pour du langage parlé, AntiFake pourrait également protéger les voix de chanteurs ou de chanteuses, estime le chercheur, dont le logiciel est d'accès libre et gratuit.

L'unité de Ben Zhao a, elle, été approchée par «plusieurs sociétés qui veulent utiliser Nightshade pour préserver leurs images et leur propriété intellectuelle», selon l'universitaire de Chicago.

Il n'est pas opposé à ce que des entreprises, même importantes, utilisent son programme.

«Le but, c'est que les gens puissent protéger leurs contenus, qu'il s'agisse d'artistes individuellement ou de sociétés avec énormément de propriété intellectuelle», fait valoir Ben Zhao.

Dans le cas de Spawning, l'idée n'est pas seulement de faire obstruction mais, aussi, dans un second temps, de «permettre aux gens de s'organiser pour vendre leurs données moyennant rémunération», précise Jordan Meyer, qui annonce le lancement d'une plateforme début 2024.

«La meilleure solution», selon lui, «serait un monde dans lequel toutes les données utilisées pour l'IA sont soumises à consentement et à paiement. Nous espérons pousser les développeurs dans cette direction.»


Pour Liam Cunningham, star de « Game of Thrones », le monde « n'oubliera pas » ceux qui sont restés silencieux sur Gaza

L'acteur irlandais Liam Cunningham a déclaré que le public « n'oubliera pas » ceux qui n'ont pas exprimé leur soutien aux Palestiniens pendant le conflit entre Israël et le Hamas à Gaza. (AP/File Photo)
L'acteur irlandais Liam Cunningham a déclaré que le public « n'oubliera pas » ceux qui n'ont pas exprimé leur soutien aux Palestiniens pendant le conflit entre Israël et le Hamas à Gaza. (AP/File Photo)
Short Url
  • L'Irlandais est un ardent défenseur de la cause palestinienne depuis des décennies
  • « Ce qui me préoccupe, c'est que les personnes qui se sentent concernées et qui ne font rien sont, à mon avis, pires que celles qui ne se sentent pas concernées », a-t-il déclaré

LONDRES : L'acteur irlandais Liam Cunningham a déclaré que le public « n'oubliera pas » ceux qui n'ont pas exprimé leur soutien aux Palestiniens pendant le conflit actuel entre Israël et le Hamas à Gaza.

La star de « Game of Thrones » est un fervent défenseur des causes palestiniennes depuis des décennies. Lors d'une manifestation à Dublin menée par l'Irlando-Palestinien Ahmed Alagha, qui a perdu 44 membres de sa famille dans le récent assaut israélien contre Gaza, Cunningham a déclaré qu'il avait été félicité par ses pairs dans le passé pour son activisme.

« Ce qui me préoccupe, c'est que les personnes qui se sentent concernées et qui ne font rien sont, à mon avis, pires que celles qui ne se sentent pas concernées », a-t-il déclaré.

On a demandé à Cunningham s'il avait parlé à d'autres acteurs pour les convaincre de soutenir la cause palestinienne, mais il a répondu en disant qu'il ne pouvait répondre des autres, a rapporté The Independent.

Il a toutefois ajouté : « Internet n'oublie pas. Lorsque cela se produira, lorsque la CIJ (Cour internationale de justice) et la CPI (Cour pénale internationale) feront, je l'espère, leur travail honorablement, cela se saura », a-t-il déclaré.

« Et les gens qui n'ont pas parlé ne seront pas oubliés. Ce génocide est retransmis en direct et il n'est pas possible de dire que l'on ne savait pas. Vous saviez. Et vous n'avez rien fait. Vous êtes restés silencieux. Je dois pouvoir me regarder dans le miroir, et c'est pourquoi je parle », a-t-il ajouté.

Un mois après qu'Israël a lancé son assaut sur Gaza en réponse aux incursions du Hamas sur le territoire israélien, le 7 octobre, qui ont fait près de 1 200 morts et quelque 250 otages, Cunningham a déclaré que, pour les Irlandais, ignorer le traitement réservé aux Palestiniens reviendrait à « trahir » leur histoire.

« Si nous nous permettons d'accepter ce comportement, alors nous acceptons que cela nous arrive », avait-il déclaré à l'époque. « Nous devons défendre des normes. Nous devons défendre le droit international et cela nous réduit en tant qu'êtres humains si nous ne le faisons pas ».

L'assaut israélien sur Gaza a tué plus de 34 000 Palestiniens, dont environ deux tiers d'enfants et de femmes, selon les autorités sanitaires de l'enclave dirigées par le Hamas.

Ce texte est la traduction d'un article paru sur Arabnews.com


Le pape François à Venise, son premier déplacement en sept mois

Le pape François salue lors d'une audience avec des pèlerins hongrois dans la salle Paul VI du Vatican, le 25 avril 2024 (Photo, AFP).
Le pape François salue lors d'une audience avec des pèlerins hongrois dans la salle Paul VI du Vatican, le 25 avril 2024 (Photo, AFP).
Short Url
  • En se rendant à Venise pour la première fois depuis son élection en 2013, le pape entend d'abord rassurer sur sa capacité à assurer son ministère
  • Depuis sa visite à Marseille en septembre 2023, Jorge Bergoglio n'a plus voyagé

VATICAN: Le pape François, 87 ans, est attendu dimanche à Venise pour une visite éclair, son premier déplacement hors de Rome en sept mois en raison de son état de santé précaire.

Depuis sa visite à Marseille en septembre 2023, Jorge Bergoglio n'a plus voyagé. Une bronchite l'a contraint à annuler son voyage à Dubaï en décembre et son état général, de plus en plus fragile, à éviter les déplacements.

En se rendant à Venise pour la première fois depuis son élection en 2013, le pape entend d'abord rassurer sur sa capacité à assurer son ministère, quelques semaines après les inquiétudes suscitées par son accès de fatigue au moment des fêtes de Pâques.

François doit arriver en hélicoptère à 08H00 (06H00 GMT) à la prison pour femmes de l'île de la Giudecca, qui abrite le pavillon du Saint-Siège à la 60e Biennale d'art contemporain de Venise.

Dans cet ancien couvent qui accueille des femmes condamnées à de longues peines, l'évêque de Rome, sensible à la place des marginalisés, rencontrera les 80 détenues et visitera l'exposition qu'elles ont montée aux côtés de dix artistes.

A l'écart des projecteurs et de la foule, le pavillon du Saint-Siège est l'un des plus en vue de la prestigieuse manifestation d'art et propose aux visiteurs une expérience immersive et déroutante, où les œuvres côtoient les barbelés.

"Ce sera un moment historique puisqu'il sera le premier pape à visiter la Biennale de Venise", a estimé le conservateur de l'exposition, le cardinal portugais José Tolentino de Mendonça, lors d'une conférence de presse.

Cela "démontre clairement la volonté de l'Eglise de consolider un dialogue fructueux et étroit avec le monde des arts et de la culture".

Messe place Saint-Marc 

Chiara Parisi, commissaire de l'exposition, a souligné "l'émerveillement" et "l'espérance" des détenues vis-à-vis de cette visite.

"Le pape agit au-delà de la parole" en se déplaçant auprès d'elles, des "personnes qui ont à cœur de jouer un rôle même quand elles sont dans une situation très dure", a-t-elle déclaré à l'AFP.

Le pape s'exprimera ensuite devant des jeunes à 10H00 (08H00 GMT) devant l'emblématique basilique Santa Maria della Salute, dont le dôme majestueux domine l'entrée sud du Grand Canal, à deux pas de la place Saint-Marc.

Après avoir rejoint la célèbre place grâce à un pont éphémère, il présidera une grande messe à 11H00 (09H00 GMT) en présence de nombreux responsables politiques et religieux. Il quittera la Lagune en début d'après-midi pour rentrer au Vatican.

Après Paul VI (1972), Jean-Paul II (1985) et Benoit XVI (2011), François est le quatrième pape à se rendre dans la Cité des Doges.

L'histoire de la Sérénissime est étroitement liée à celle de la papauté. Au XXe siècle, trois patriarches de Venise sont devenus papes.

Le diocèse de Venise est un des plus grands de la péninsule avec 125 paroisses. Venise est en outre l'un des rares patriarcats de l'Eglise latine.

La visite du pape intervient le week-end d'introduction d'une entrée payante de cinq euros pour les touristes à la journée: en tant qu'invité, il devrait en être exempté, mais les pèlerins non résidents y seront soumis.

Après ce déplacement, le jésuite argentin doit effectuer deux autres voyages dans le nord de l'Italie, à Vérone en mai et à Trieste en juillet.

Cette visite intervient aussi alors que le Vatican vient d'officialiser une ambitieuse tournée papale aux confins de l'Asie et de l'Océanie en septembre (Indonésie, Papouasie-Nouvelle-Guinée, Timor oriental et Singapour), le plus long voyage de son pontificat, qui s'annonce comme un ambitieux défi sur le plan physique.


Tanger, le «havre de liberté» des grands noms du jazz

Abdellah El Gourd, légende marocaine de la musique gnawa âgée de 77 ans, pose pour une photo dans la vieille ville de Tanger le 23 avril 2024 (Photo, AFP).
Abdellah El Gourd, légende marocaine de la musique gnawa âgée de 77 ans, pose pour une photo dans la vieille ville de Tanger le 23 avril 2024 (Photo, AFP).
Short Url
  • Cette année, la cité, bordée par la Méditerranée et l'Atlantique, a été désignée ville-hôte de la Journée internationale du jazz, par l'Unesco
  • Randy Weston et Abdellah El Gourd vont de leur côté repousser les limites de la création, devenant les précurseurs de la fusion entre sonorités jazz et gnaoua

TANGER: Au siècle dernier, Randy Weston, Idrees Sulieman ou Max Roach ont traversé l'Atlantique pour découvrir Tanger, devenue le repère des grands jazzmen américains. Un héritage qui sera célébré mardi dans la métropole du nord du Maroc, lors de la Journée internationale du jazz.

"La ville a eu un pouvoir d'attraction fascinant sur une vague d'intellectuels et musiciens. Ce n'est pas pour rien qu'un écrivain disait qu'il y avait toujours un paquebot qui chauffait à New York en partance pour Tanger", explique à l'AFP Philippe Lorin, fondateur d'un festival de jazz dans la grande ville portuaire.

Cette année, la cité, bordée par la Méditerranée et l'Atlantique, a été désignée ville-hôte de la Journée internationale du jazz, par l'Unesco. A partir de samedi, elle abrite des conférences et spectacles en plein air qui culmineront dans un grand concert mondial avec le pianiste Herbie Hancock et les bassistes Marcus Miller et Richard Bona ou le guitariste Romero Lubambo.

Le cosmopolitisme de Tanger puise ses racines dans son statut d'ancienne zone internationale, administrée par plusieurs puissances coloniales de 1923 jusqu'en 1956 quand le Maroc a pris son indépendance.

Son rayonnement a été alimenté par le passage d'écrivains et poètes du mouvement littéraire de la "beat generation" mais aussi de jazzmen afro-américains "en quête de leurs racines africaines", souligne l'historien Farid Bahri, auteur de "Tanger, une histoire-monde du Maroc".

"Tanger était un havre de liberté comme l'est la musique jazz", note M. Lorin.

Weston débarque à Tanger 

"La présence des musiciens américains à Tanger était également liée à une diplomatie américaine très active", complète l'historien marocain.

Le célèbre pianiste Randy Weston a posé ses valises durant cinq ans à Tanger après une tournée dans 14 pays africains en 1967, organisée par le département d'Etat américain.

Le virtuose de Brooklyn a joué un rôle déterminant dans la construction du mythe de la ville du détroit, à laquelle il a dédié son album "Tanjah" (1973).

"Randy était un homme d'exception aimable et respectueux, il a beaucoup donné à la ville et ses musiciens", confie à l'AFP Abdellah El Gourd, un maître gnaoua (musique spirituelle originaire d'Afrique de l'ouest, introduite par les descendants d'esclaves), ami et collaborateur du pianiste américain décédé en 2018.

Un autre moment charnière de cette épopée est l'enregistrement en 1959 d'une session musicale avec le vénérable trompettiste Idrees Sulieman, le pianiste Oscar Dennard, le contrebassiste Jamil Nasser et le batteur Buster Smith au studio de la Radio Tanger International (RTI) à l'invitation de Jacques Muyal.

Ce Tangérois d'à peine 18 ans, animateur d'une émission de jazz sur RTI, produit alors, avec les moyens du bord et sans le savoir, un album de référence qui circulera dans les cercles de jazz avant son édition sous le titre "The 4 American Jazzmen In Tangier" en 2017.

«Expérience unique»

Randy Weston et Abdellah El Gourd vont de leur côté repousser les limites de la création, devenant les précurseurs de la fusion entre sonorités jazz et gnaoua.

"La barrière de la langue n'a jamais été un problème car notre communication se faisait à travers les gammes. Notre langage était la musique", raconte M. El Gourd, dans une salle de répétition aux murs tapissés de photos souvenirs de tournées internationales notamment avec Weston et le saxophoniste Archie Shepp.

Une longue collaboration qui donnera naissance 25 ans plus tard à l'album "The Splendid Master Gnawa Musicians of Morocco" (1992).

En 1969, le pianiste américain décide d'ouvrir un club de jazz baptisé "African Rythms Club" au-dessus du célèbre cinéma Mauritania.

"On répétait là-bas, Randy y invitait ses amis musiciens. C'était une belle époque", se remémore le maâlem (maître) de 77 ans qui a parcouru le monde aux côtés de Weston.

Puis en 1972, l'Américain se lance dans la folle aventure d'organiser un premier festival de jazz à Tanger avec des invités de marques dont le percussionniste Max Roach, le flûtiste Hubert Laws, le contrebassiste Ahmed Abdul-Malik, le saxophoniste Dexter Gordon mais aussi Abdellah El Gourd.

"C'était une expérience assez unique car c'était la première fois qu'on jouait devant un public aussi nombreux", se souvient le musicien, jusqu'alors habitué aux performances gnaouas réservées à l'époque à des cercles restreints.

L'expérience ne durera qu'une seule édition mais inspirera Philippe Lorin pour créer, près de trois décennies plus tard, le festival Tanjazz, organisé chaque année en septembre.