Opinion | Faut-il mettre l’IA sur pause ?

Par Julien Serre

Publié le 30 mars 2023 dans LES ECHOS à 17:39Mis à jour le 30 mars 2023 à 18:01

Ces derniers jours, comme beaucoup d’entre nous, j’ai joué avec les outils en ligne issus des dernières innovations de l’Intelligence artificielle, l’IA. J’en ai tiré le sentiment d’être une sorte de démiurge, créateur et animateur du monde, capable de réécrire l’histoire, l’art, la recherche en quelques clics.

J’ai demandé mon portrait à la manière de Velázquez sur Midjourney, à qui j’ai ensuite suggéré d’apporter un look américain au Bonaparte franchissant le Grand-Saint-Bernard, de Jacques-Louis David. Puis j’ai cherché quelques sources académiques sur Consensus, pour améliorer ma productivité ; enfin j’ai posé des questions plus ou moins saugrenues à ChatGPT. Les résultats étaient, aux yeux d’un néophyte comme moi, stupéfiants.

Un objet réel ?

Ma première réaction après un bref mais intense sentiment de satisfaction a été la morsure du remord : quelle quantité d’énergie et quelle bande passante venais-je de gaspiller avec ces requêtes ? Puis est venue une forme d’inquiétude sourde, une angoisse presque existentielle, autour d’un paradoxe : est-ce que nous créons de l’information vraie, réelle, véridique ?

Evidemment, Velázquez ne m’a pas fait l’honneur de me peindre au XVIIe siècle. Mais n’avais-je pas bel et bien, devant moi, un tableau flatteur et réaliste ? Bonaparte n’a jamais été bodybuildé et n’a pas non plus arboré de bannière étoilée dans un style hyper-réaliste. Pourtant, n’était-il pas vrai désormais, à jamais gravé sur les serveurs du monde entier et susceptible de ressortir à tout moment comme un objet réel ?

Moratoire sur l’IA

Ma prochaine action, presqu’instinctive, a été de signer l’appel international du Future of Life Institute pour un moratoire sur l’IA. Ouf ! Dans « Pause Giant AI Experiments : An Open Letter » , le constat de cet institut, qui est persuadé que la technologie est le futur de la vie, est clairement exposé : les systèmes d’IA dotés d’une intelligence capable de concurrencer la nôtre peuvent présenter de graves risques pour la société et l’humanité.

Nous risquons d’automatiser un grand nombre d’emplois et même ceux que nous chérissons (les peintres comme David) et de développer des esprits qui nous surpassent. Ne faut-il pas s’interroger sur ce qu’on attend tous, en tant que communauté humaine, des futurs développements de l’IA ? N’est-il pas temps de mettre les inventions sur pause ?

Gouvernance et certification

Difficile d’imaginer une telle initiative, le temps que nous nous mettions d’accord, sans l’effort de nos gouvernants pour l’imposer à certaines entreprises. Pour convaincre les plus hésitants : il nous faut des protocoles de sécurité partagés pour la conception et le développement avancés de l’IA.

Nous devons créer, comme le dit la Lettre ouverte, des systèmes « plus précis, sûrs, interprétables, transparents, robustes, alignés, dignes de confiance et loyaux ». Nous avons besoin de gouvernance, d’une autorité de réglementation, d’outils de suivi, de méthodes d’audit et de certification.

Pour y parvenir, il faut très vite promouvoir la création d’institutions nouvelles. Cela inclut des autorités, capables et légitimes, pour gérer le torrent nauséabond de désinformation qui va inonder tous les réseaux sociaux et mettre en péril nos démocraties.

Compétitives et responsables

L’Europe peut jouer un rôle moteur pour y parvenir mais ne doit pas créer des freins que ne respecteront pas les autres. Sa priorité est de promouvoir des industries de technologies à la fois compétitives et responsables.

Elle doit éviter que la course actuelle, visant à développer et déployer des outils numériques toujours plus puissants, ne devienne trop difficile à contrôler et vérifier. Les entrepreneurs, ces créateurs un peu démiurges, seront reconnaissants demain. Il est temps de faire une pause. Où est le bouton ?

Julien Serre