Mardi 30 mai 2023, SMART TECH reçoit Véronique Ventos (cofondatrice et chef de la recherche, NukkAI) et Jean-Gabriel Ganascia (professeur, Sorbonne Université et directeur de l'équipe ACASA, Lip6-CNRS)
Faut-il limiter l’usage des IA génératives ?
Alors que Sam Altman, le « père » de ChatGPT effectue actuellement une grande tournée mondiale pour répondre aux nombreuses questions que pose le développement des IA génératives, les appels à la régulation se multiplient. En Europe, par exemple, le projet de règlement AI Act est en pleine discussion.
L’image a fait le tour du monde. Celle d’une explosion au Pentagone, qui a fait brièvement dévisser les marchés américains le 22 mai dernier. Oui, mais cette image était une fausse. Une fake news comme on dit maintenant. « Aujourd’hui, les IA sont capables de produire du texte, des images, des vidéos, des bandes-son, et donc il faut se méfier de ce que l’on voit de nos yeux, de ce que l’on entend de nos oreilles. Et ça, c’est extrêmement inquiétant », estime Jean-Gabriel Ganascia sur le plateau de SMART TECH. « Ce qui est encore plus inquiétant, c’est qu’avec les techniques de profilage on est capable de cibler les personnes qui seront les plus sensibles à ces fausses informations », poursuit celui qui est membre du Comité d'éthique du CNRS. « Alors oui, la régulation et la prudence semblent être de mise pour préserver nos démocraties face à ce phénomène en plein essor. »
« Ce n’est pas la technologie qui est en cause, mais leur usage par l’Humain », juge de son côté Véronique Ventos, chercheuse, cofondatrice de NukkAI, une start-up française qui développe et édite des solutions d’intelligence artificielle. « Il faut avant tout que nous apprenions à nous servir de ces outils correctement pour les dompter. Il faut aussi bien être conscient que les données traitées par les IA sont récupérées par leurs éditeurs : tout ce que vous rentrez, les questions, vos réactions, tout est récupéré », poursuit-elle. Attention donc à ne pas confier à ces IA des données sensibles.
Être prudent, mais pas jusqu’à l’extrême. « Le projet européen AI ACT impose des contraintes très fortes qui risquent d’empêcher le développement des techniques d’IA en Europe », souligne Jean-Gabriel Ganascia. Cela pourrait in fine rendre l’Union Européenne dépendante des technologies américaine ou encore chinoise.
Que penser alors de ce moratoire réclamé par plus de 1 300 chercheurs en intelligence artificielle (IA) qui réclament une pause de six mois dans la recherche, craignant « des risques majeurs pour l'humanité ? On nous parle de risque existentiel, que les machines risquent de nous dépasser, de prendre le pouvoir, mais on n’en est pas du tout là », juge Jean-Gabriel Ganascia : « Les IA parlent mais elles ne savent pas ce qu’elles disent, rappelle-t-il. À partir de là, si on veut utiliser ces machines il faudrait pouvoir confronter ce qu'elles disent avec un certain nombre de faits pour rajouter un étage de rationalité ». Comme l’explique Luc Julia, le cocréateur de Siri, « le problème de ces IA c’est leur pertinence : ChatGPT est pertinent à 64 % seulement. On peut considérer que 36 % d’erreurs, de bêtises en fait, ça fait quand même beaucoup ».
D’où l’importance de former les publics à leur utilisation, plus que de limiter leur usage, conclut Véronique Ventos.
