La mésaventure d'un proviseur américain, cas d'école des dangers de l'IA

Les mots « Intelligence artificielle IA », miniature d’un robot et d’une main jouet sont représentés sur cette illustration prise le 14 décembre 2023 (Photo, Reuters).
Les mots « Intelligence artificielle IA », miniature d’un robot et d’une main jouet sont représentés sur cette illustration prise le 14 décembre 2023 (Photo, Reuters).
Short Url
Publié le Lundi 06 mai 2024

La mésaventure d'un proviseur américain, cas d'école des dangers de l'IA

  • Eric Eiswert, proviseur à Pikesville dans le Maryland, près de Washington, s'est retrouvé au coeur d'une violente polémique avec un enregistrement vocal
  • L'affaire, qui survient en pleine année électorale aux Etats-Unis, met en lumière la facilité avec laquelle les outils d'IA générative peuvent être employés pour nuire à tout un chacun

WASHINGTON: Après l'indignation provoquée dans un lycée américain par la diffusion de propos racistes attribués au proviseur, le vertige de découvrir que la bande sonore a été montée de toutes pièces. Cet épisode illustre les dangers d'une intelligence artificielle devenue accessible à tous.

Eric Eiswert, proviseur à Pikesville dans le Maryland, près de Washington, s'est retrouvé au coeur d'une violente polémique avec un enregistrement vocal -- qui se révélera un faux -- lui faisant prononcer des commentaires choquants contre des élèves juifs et des "enfants noirs ingrats".

L'affaire, qui survient en pleine année électorale aux Etats-Unis, met en lumière la facilité avec laquelle les outils d'IA générative peuvent être employés pour nuire à tout un chacun, et les difficultés auxquelles font face les autorités pour lutter contre de telles pratiques.

"Désormais, tout le monde est vulnérable", et non plus seulement les célébrités, alerte Hany Farid, professeur à l'Université de Californie à Berkeley (ouest).

"Il suffit d'une image pour ajouter une personne dans une vidéo, et 30 secondes d'audio pour cloner la voix de quelqu'un", poursuit le spécialiste en détection d'images et d'enregistrements manipulés numériquement, consulté par la police dans cette affaire.

Quand l'enregistrement fuite sur les réseaux sociaux en janvier, il devient rapidement viral. Une publication recueille des milliers de commentaires sur Instagram, et propulse l'école au coeur d'une polémique nationale.

Le militant des droits civiques DeRay McKesson réclame la démission du proviseur sur son compte X, suivi par près d'un million d'internautes. Il admettra s'être fait abuser.

Les messages haineux pleuvent sur les réseaux sociaux et les coups de fil menaçants se multiplient dans l'établissement. Le "monde serait meilleur si vous étiez sous terre", écrit ainsi un internaute au proviseur.

Ce dernier est placé en congés, son domicile mis sous protection. Contacté par l'AFP, il n'a pas répondu.

Vengeance 

"Je continue de m'inquiéter des dégâts provoqués par cette affaire", confie Billy Burke, directeur du syndicat représentant le proviseur.

Fin avril, Dazhon Darien, 31 ans, responsable sportif du lycée, a été arrêté par les autorités, accusé d'être à l'origine du faux. Les enquêteurs sont remontés jusqu'à lui grâce à l'adresse électronique qui a initialement partagé le fichier.

Il aurait agi pour se venger d'une enquête ouverte à son encontre par le proviseur sur des paiements suspects.

Le prévenu a mené des recherches sur des outils d'IA depuis le réseau informatique du lycée, selon l'acte d'accusation.

La bande sonore, selon l'analyse d'un expert consulté par la police, "contient des traces de contenu généré par l'IA, avec un montage humain a posteriori".

Cette affaire démontre la nécessité "d'adapter la loi aux avancées technologiques", a estimé le procureur local, Scott Shellenberger.

Les montages audio sont particulièrement difficiles à déceler. En janvier, un message diffusé par appels téléphoniques automatisés usurpant la voix du président Joe Biden incitait les électeurs démocrates de l'Etat du New Hampshire (nord-est) à s'abstenir lors des primaires pour du parti.

A Pikeville, l'affaire a secoué les habitants, "très proches les uns des autres", raconte Parker Bratton, l'entraîneur de golf du lycée.

"Il y a un seul président, mais il y a un million de proviseurs!", s'inquiète-t-il, "les gens se demandent +Que va-t-il m'arriver si quelqu'un décide tout simplement de détruire ma carrière?+".


Washington sanctionne des Iraniens accusés d'orchestrer la répression des manifestants

M. Larijani "coordonne la réponse aux manifestations au nom du Guide suprême de l'Iran et a publiquement appelé les forces de sécurité iraniennes à recourir à la force pour réprimer les manifestants pacifiques", écrit le ministère dans un communiqué. (AFP)
M. Larijani "coordonne la réponse aux manifestations au nom du Guide suprême de l'Iran et a publiquement appelé les forces de sécurité iraniennes à recourir à la force pour réprimer les manifestants pacifiques", écrit le ministère dans un communiqué. (AFP)
Short Url
  • Est en particulier visé Ali Larijani, à la tête de la plus haute instance de sécurité en Iran en tant que secrétaire du Conseil suprême de sécurité nationale
  • M. Larijani "coordonne la réponse aux manifestations au nom du Guide suprême de l'Iran et a publiquement appelé les forces de sécurité iraniennes à recourir à la force pour réprimer les manifestants pacifiques"

WASHINGTON: Le gouvernement américain a annoncé jeudi des sanctions économiques à l'encontre de plusieurs responsables sécuritaires iraniens accusés de coordonner la répression des manifestations dans le pays.

"Les dirigeants iraniens ont répondu brutalement aux manifestations pacifiques par des actes de violence, allant de tueries massives dans les rues à des attaques contre des victimes blessées et des hôpitaux", a dénoncé dans un message vidéo le ministre américain des Finances, Scott Bessent.

En réponse, le Trésor impose une nouvelle série de sanctions économiques contre les intérêts iraniens.

Est en particulier visé Ali Larijani, à la tête de la plus haute instance de sécurité en Iran en tant que secrétaire du Conseil suprême de sécurité nationale.

M. Larijani "coordonne la réponse aux manifestations au nom du Guide suprême de l'Iran et a publiquement appelé les forces de sécurité iraniennes à recourir à la force pour réprimer les manifestants pacifiques", écrit le ministère dans un communiqué.

Sont aussi sanctionnés quatre responsables sécuritaires opérant à l'échelle régionale en Iran.

"Notre message au peuple iranien est clair: vos revendications sont légitimes. Vous manifestez pour une noble cause", a déclaré le ministre Bessent dans la vidéo.

"Notre message aux dirigeants iraniens est également clair", a-t-il continué.

"Le Trésor américain sait que, tels des rats qui quittent un navire en perdition, vous transférez frénétiquement les fonds volés aux familles iraniennes vers des banques et des institutions financières à travers le monde. Soyez assurés que nous les traquerons, et vous avec."

Les sanctions américaines entraînent le gel de l'ensemble des avoirs détenus aux Etats-Unis par les personnes et entités visées.

Elles interdisent aussi à toute entreprise ou citoyen américain de faire des affaires avec elles, au risque d'être à leur tour frappés par des sanctions.


«Continuez à manifester», «l'aide est en route», lance Donald Trump aux Iraniens

Les liaisons téléphoniques internationales, coupées depuis vendredi, ont été rétablies mardi depuis l'Iran vers l'étranger mais restent précaires, selon un journaliste de l'AFP à Téhéran.  Dans la capitale, les forces de sécurité ont été mardi moins visibles aux principaux carrefours de Téhéran, a-t-il constaté. (AFP)
Les liaisons téléphoniques internationales, coupées depuis vendredi, ont été rétablies mardi depuis l'Iran vers l'étranger mais restent précaires, selon un journaliste de l'AFP à Téhéran. Dans la capitale, les forces de sécurité ont été mardi moins visibles aux principaux carrefours de Téhéran, a-t-il constaté. (AFP)
Short Url
  • La Maison Blanche avait affirmé lundi que la possibilité de frappes aériennes était toujours sur la table, mais que la diplomatie demeurait "la première option"
  • Donald Trump a par ailleurs annoncé des sanctions contre les partenaires commerciaux de l'Iran - des droits de douane de 25% prenant effet "immédiatement

PARIS: Donald Trump a encouragé mardi les manifestants en Iran à renverser les institutions et a promis que "l'aide" arrivait, Téhéran dénonçant de son côté des "troubles orchestrés" pour servir de prétexte à une intervention militaire américaine.

"CONTINUEZ A MANIFESTER - PRENEZ LE CONTROLE DE VOS INSTITUTIONS!!!", a écrit le président américain sur son réseau Truth social, soulignant que "beaucoup d'aide est en route".

Le président américain a menacé plusieurs fois d'intervenir militairement depuis le début le 28 décembre du mouvement, l'un des plus vastes depuis la proclamation de la République islamique en 1979.

La mission iranienne à l'ONU a accusé mardi les Etats-Unis de chercher à renverser le régime par la force, "des troubles orchestrés et le chaos servant de modus operandi pour fabriquer un prétexte à une intervention militaire".

Fils de l'ancien chah d'Iran chassé du pouvoir en 1979 et figure de l'opposition iranienne en exil aux Etats-Unis, Reza Pahlavi a assuré mardi aux manifestants que "le monde n'a pas seulement vu et entendu votre voix et votre courage, maintenant il répond".

La répression a fait au moins 734 morts selon l'ONG Iran Human Rights (IHR) basée en Norvège, qui estime toutefois que le nombre réel de morts pourrait s'élever à plusieurs milliers.

Des rapports crédibles font état "de tueries à grande échelle menées par les forces de sécurité à travers le pays", affirme également l'ONG Human Rights Watch.

De nouvelles vidéos, authentifiées par l'AFP, sont apparues sur les réseaux sociaux montrant des dizaines de corps alignés dans une mosquée au sud de la capitale iranienne.

"Tirs au hasard" 

Les condamnations internationales ont afflué mardi: l'ONU s'est dit "horrifiée" et la présidente de la Commission européenne Ursula von der Leyen a dénoncé un bilan "effroyable" et dit plancher sur de nouvelles sanctions contre Téhéran.

L'UE et des capitales européennes ont convoqué les ambassadeurs iraniens pour dénoncer la "répression la plus brutale et la plus sanglante contre des manifestations" depuis des années, selon Londres.

La Maison Blanche avait affirmé lundi que la possibilité de frappes aériennes était toujours sur la table, mais que la diplomatie demeurait "la première option".

Donald Trump a par ailleurs annoncé des sanctions contre les partenaires commerciaux de l'Iran - des droits de douane de 25% prenant effet "immédiatement".

L'Iran reste privé d'internet depuis le 8 janvier. Des défenseurs des droits humains accusent Téhéran de chercher ainsi à masquer la répression.

L'IHR évoque 10.000 arrestations.

"La violence augmente, les arrestations aussi. Les oppresseurs tirent au hasard", relate Kian Tahsildari à Istanbul, relayant le témoignage d'amis à Mashad (nord-est de l'Iran).

Téhéran "prêt à toute éventualité" 

Les liaisons téléphoniques internationales, coupées depuis vendredi, ont été rétablies mardi depuis l'Iran vers l'étranger mais restent précaires, selon un journaliste de l'AFP à Téhéran.

Dans la capitale, les forces de sécurité ont été mardi moins visibles aux principaux carrefours de Téhéran, a-t-il constaté.

Les médias d'Etat diffusent en boucle des images des dégâts et rendent hommage aux membres des forces de sécurité tués.

Les autorités iraniennes ont annoncé la tenue mercredi d'une cérémonie funéraire géante à Téhéran en l'honneur des "martyrs" des derniers jours, en référence essentiellement à ceux-ci.

Depuis le début du mouvement, initialement lié au coût de la vie, le pouvoir dit comprendre les revendications portant sur des questions économiques mais accuse des "émeutiers" pilotés par l'étranger d'être à l'origine des violences.

Mardi, le chef de la diplomatie iranienne, Abbas Araghchi, a affirmé sur Al Jazeera que la décision de couper l'internet avait été prise en raison "d'opérations terroristes" dont "les ordres venaient de l'étranger".

"Nous sommes préparés pour toute éventualité et nous espérons que Washington fera un choix guidé par la sagesse. Peu importe quelle option ils choisiront, nous y sommes prêts", a-t-il ajouté.

Agé de 86 ans, l'ayatollah Khamenei a déjà été confronté à d'importants défis, notamment durant la guerre de 12 jours avec Israël en juin 2025, déclenchée par une attaque massive contre les installations militaires et nucléaires iraniennes.

Mais ces manifestations "représentent sans doute le défi le plus sérieux" pour le guide suprême "depuis des années, tant par leur ampleur que par leurs revendications politiques de plus en plus explicites", relève Nicole Grajewski, professeure au Centre de recherches internationales de Sciences Po.

Des analystes jugent cependant prématuré de prédire dans l'immédiat la chute du pouvoir théocratique iranien, soulignant que la République islamique dispose de solides leviers répressifs, à commencer par le Corps des Gardiens de la Révolution.


Des frappes en Iran sont toujours une option pour Trump, selon la Maison Blanche

Donald Trump envisage des frappes aériennes en Iran pour mettre fin à la répression des manifestations qui secouent la République islamique depuis le 28 décembre, a affirmé lundi la Maison Blanche, ajoutant toutefois qu'une voie diplomatique restait ouverte. (AFP)
Donald Trump envisage des frappes aériennes en Iran pour mettre fin à la répression des manifestations qui secouent la République islamique depuis le 28 décembre, a affirmé lundi la Maison Blanche, ajoutant toutefois qu'une voie diplomatique restait ouverte. (AFP)
Short Url
  • La répression des manifestations en Iran a fait plus de 600 morts depuis le début de la contestation selon une ONG
  • "Une chose dans laquelle le président Trump excelle est de garder toutes les options sur la table. Et les frappes aériennes sont l'une des très nombreuses options qui s'offrent au commandant en chef"

WASHNIGTON: Donald Trump envisage des frappes aériennes en Iran pour mettre fin à la répression des manifestations qui secouent la République islamique depuis le 28 décembre, a affirmé lundi la Maison Blanche, ajoutant toutefois qu'une voie diplomatique restait ouverte.

La répression des manifestations en Iran a fait plus de 600 morts depuis le début de la contestation selon une ONG, la République islamique faisant face à l'un de ses plus importants mouvements de contestation depuis sa proclamation en 1979.

"Une chose dans laquelle le président Trump excelle est de garder toutes les options sur la table. Et les frappes aériennes sont l'une des très nombreuses options qui s'offrent au commandant en chef", a affirmé à la presse la porte-parole de la Maison Blanche, Karoline Leavitt.

Toutefois, elle a assuré que "la diplomatie (était) toujours la première option pour le président".

Selon elle, une voie diplomatique reste ouverte avec l'Iran, le pouvoir adoptant un "ton très différent" lors de discussions privées avec l'émissaire américain, Steve Witkoff.

"Ce que vous entendez de la part du régime iranien est très différent des messages que l'administration (américaine) reçoit en privé, et je pense que le président veut examiner ces messages", a-t-elle ajouté.

Donald Trump "ne souhaite pas voir des gens se faire tuer dans les rues de Téhéran, et malheureusement, c'est ce à quoi nous assistons actuellement", a également assuré Karoline Leavitt.

Le ministère iranien des Affaires étrangères a lui déclaré lundi qu'un canal de communication était "ouvert" entre l'Iran et Steve Witkoff, malgré l'absence de relations diplomatiques entre les deux pays ennemis.

Le pouvoir cherche à présent à reprendre la main en faisant descendre dans les rues des milliers de ses partisans, après avoir imposé une coupure totale d'internet depuis le 8 janvier.

Le président américain avait annoncé dimanche qu'une réunion avec des responsables iraniens était "en cours de préparation", sans toutefois écarter l'option militaire. "Nous pourrions devoir agir avant une rencontre", avait-il avancé, en ajoutant que l'armée américaine étudiait des "options très fortes".