Une réglementation nécessaire pour dompter le Far West de l’IA

Je sais que nous sommes en été et que nous devrions essayer de voir le bon côté de la vie en nous concentrant sur des sujets plus positifs et porteurs d’espoir. Mais la saison estivale des informations légères et absurdes ne semble nulle part en vue. Au contraire, les incendies de forêt et la sécheresse ravagent l’Europe, tandis que persiste la conviction que le monde n’a pas encore mesuré toutes les conséquences de la guerre entre les États-Unis et l’Iran. Sans oublier la guerre, toujours plus intense et implacable, entre l’Ukraine et la Russie. À cela s’ajoutent les révélations incessantes sur l’intelligence artificielle : un jour, la machine prendra les emplois des humains, puis les humains parient sur le fait que les machines deviendront autonomes, voire plus intelligentes que ceux qui les ont inventées.

Ce qui est préoccupant, c’est que les signes avant-coureurs des excès de la « machine intelligente » sont partout, mais qu’il semble rétrograde d’exprimer publiquement ces doutes, encore moins dans le cadre d’une conversation intelligente appelant à une réglementation. Il ne s’agit pas de préserver la banalité de la vie humaine, mais de garantir sa pertinence durable et de prévenir son anéantissement. Les machines devraient être au service d’une humanité meilleure, et non d’une humanité exploitée ou déformée par un algorithme qui efface les humains et leur existence.

Quelques incidents et révélations récents dans le domaine de l’IA ont suscité des inquiétudes, même s’ils ont été présentés soit pour semer la peur, soit pour justifier une nouvelle levée de fonds de milliards, voire de milliers de milliards de dollars afin de développer, exploiter et monétiser davantage cette nouvelle frontière technologique. Certains estiment que les inquiétudes croissantes concernant l’IA sont elles-mêmes une manœuvre marketing, mais les révélations sont assurément légitimes et reflètent les préoccupations du public.

La première révélation est venue d’OpenAI, qui a récemment indiqué que l’une de ses propres expériences avait conduit la machine à pirater de manière autonome une entreprise spécialisée dans l’IA. Anthropic a ensuite révélé que son système Claude avait apparemment fait de même et a conseillé à ses concurrents de vérifier leurs systèmes. Meta s’est ensuite empressée d’indiquer que ses chercheurs avaient trouvé des preuves d’un comportement similaire. Ces annonces semblent confirmer nos craintes les plus extrêmes inspirées de la science-fiction : malgré les nombreux services qu’ils rendent à l’humanité et leur importance pour notre avenir, ces puissants systèmes peuvent devenir incontrôlables.

Malgré les nombreux services qu’ils rendent à l’humanité et leur importance pour notre avenir, ces puissants systèmes peuvent devenir incontrôlables 

                                                  Mohamed Chebaro

La deuxième révélation est l’annonce que l’IA avait été utilisée pour concevoir des virus entièrement nouveaux, parfaitement fonctionnels et capables de se répliquer en laboratoire. Les 16 nouveaux virus ainsi créés auraient été conçus pour infecter des bactéries et ne représenteraient aucune menace pour les humains. Selon les chercheurs, ce tournant scientifique pourrait ouvrir une nouvelle ère dans le traitement des maladies. Mais des experts ont averti que les virus conçus par l’IA soulèvent des préoccupations « urgentes » en matière de sûreté et de sécurité, en raison de leur potentiel usage malveillant.

La troisième concerne les révélations selon lesquelles les armes de guerre gagneraient en létalité lorsqu’elles sont combinées à l’IA. Le monde n’a pas encore mesuré les effets de systèmes entièrement autonomes qui, s’ils étaient laissés sans contrôle, pourraient provoquer des catastrophes, des erreurs et des identifications erronées de cibles, causant des dommages aux civils. En raison de l’IA, la guerre moderne repose sur des systèmes d’armes autonomes capables d’engager un nombre illimité de cibles, sans nécessairement exclure les civils, bien entendu. Dans ce nouvel environnement, on peut se demander si les Conventions de Genève restent applicables comme garde-fou ayant, depuis des décennies, contraint les armées à respecter et à faire respecter les principes de distinction, de proportionnalité et de contrôle humain effectif.

La question est de savoir si tel est encore le cas lorsque l’IA fournit toute une gamme de nouveaux outils qui rendent les armes plus puissantes, des drones sans équipage jusqu’à un ordinateur contrôlant un essaim de drones sophistiqués capables d’engager des centaines de cibles sans intervention humaine.

Les risques existentiels constituent ici la principale source d’inquiétude, au-delà du marketing, de la nécessité d’affiner la technologie ou même de la réglementer. Les entreprises d’IA ont, du moins dans le monde occidental, été assez transparentes sur le fait que leurs modèles « hallucinent » — peut-être pour expliquer qu’elles ont besoin de davantage de ressources ou pour limiter leur responsabilité. Mais qu’en est-il des autres programmes pilotés par des acteurs tout aussi agressifs, tels que des États et des acteurs non étatiques, dans l’obscurité totale, à l’écart de toute transparence ?

Les risques existentiels constituent ici la principale source d’inquiétude, au-delà du marketing, de la nécessité d’affiner la technologie ou même de la réglementer 

                                                 Mohamed Chebaro

Les récentes révélations ont suscité des inquiétudes qui font écho à la nécessité d’une attention réglementaire. Et l’appel de la Maison-Blanche à un dialogue avec les géants de la technologie sur leurs procédures de test constitue un bon début.

Mais tous les acteurs de ce domaine doivent aller plus loin. Personne n’ose en parler, car cela pourrait compromettre le modèle d’exploitation sur lequel le développement de ces outils repose depuis le départ.

L’une des préoccupations est que les entreprises d’IA contournent systématiquement la nécessité de modérer plus efficacement les contenus et de contribuer à prévenir la mésinformation, la désinformation et les fausses informations, qui peuvent déchirer les sociétés. Par-dessus tout, il faut empêcher l’IA de réduire les connaissances humaines sous l’effet de l’immense quantité de contenus médiocres qu’elle produit, lesquels sapent l’apprentissage et l’esprit critique — même si cela va à l’encontre des intérêts commerciaux des géants de la technologie.

Le monde n’a pas besoin de davantage de preuves de l’expansion dangereuse, dérégulée et souvent irresponsable de l’IA. Le fait que des systèmes deviennent incontrôlables ou que des outils piratent d’autres outils pourrait devenir la norme, annonçant un véritable Far West technologique. À moins que le monde et ses dirigeants n’osent avoir une discussion lucide sur des réglementations qui se font attendre depuis longtemps. Ou qu’ils ne s’accordent sur un moratoire similaire aux protocoles internationaux de non-prolifération qui encadrent encore l’utilisation de la recherche et des armes nucléaires, afin d’empêcher que les outils d’IA ne tombent entre de mauvaises mains et ne deviennent des cyberarmes de destruction massive. 

Mohamed Chebaro est un journaliste libano-britannique qui a plus de 25 ans d'expérience dans les domaines de la guerre, du terrorisme, de la défense, des affaires courantes et de la diplomatie. 

X: @mochebaro

NDLR: L’opinion exprimée dans cette page est propre à l’auteur et ne reflète pas nécessairement celle d’Arab News en français.

Ce texte est la traduction d’un article paru sur Arabnews.com