Djamila Aouada, vice-directrice par intérim du SNT à l’Université du Luxembourg, à propos de la crise de la vérité dans l’IA: «C’est un problème multidimensionnel.» (Photo: Pancake ! photographie)

Djamila Aouada, vice-directrice par intérim du SNT à l’Université du Luxembourg, à propos de la crise de la vérité dans l’IA: «C’est un problème multidimensionnel.» (Photo: Pancake ! photographie)

Les rouages internes des plateformes d’IA sont trop complexes pour être compris par les humains, ce qui les rend difficiles – voire impossibles – à appréhender en toute confiance. Lors de la deuxième journée de la conférence Nexus, les intervenants ont évoqué deux façons d’aborder ce problème: en améliorant la fiabilité de l’IA et en revoyant à la baisse nos propres attentes.

Quand et dans quelle mesure pouvons-nous faire confiance aux résultats des grands modèles de langage («large language models» ou LLM)? Comment les rendre plus fiables? Quelle est la différence entre la vérité et les faits?

Ces questions ont été posées lors d’une table ronde organisée dans le cadre de la conférence Nexus, le 18 juin, sur la «crise de la vérité» dans le domaine de l’intelligence artificielle. Ce débat faisait suite à une allocution de Hilde Hardeman, directrice générale de l’Office des publications de l’Union européenne, sur un thème similaire.

Dans son allocution, Hilde Hardeman a résumé la liste des risques liés à l’IA connus de tous: hallucination, amplification des préjugés et des partis pris, lacunes en matière de protection de la vie privée et de sécurité, violations de la propriété intellectuelle, problèmes de responsabilité. Il s’agit là d’imperfections de la machine, tandis qu’une couche de risque supplémentaire vient s’ajouter sous la forme d’acteurs malveillants, c’est-à-dire les décisions prises par des entités étatiques et non étatiques de créer et de diffuser des mythes et de la désinformation qui ciblent aussi bien les humains que les LLM.

La désinformation est aussi vieille que l’humanité, a fait remarquer Mme Hardeman, mais les technologies numériques ont accéléré et élargi sa portée, ce qui la rend plus dangereuse que jamais. Et les efforts déployés pour alimenter les outils d’intelligence artificielle avec «des données qui sont tout sauf dignes de confiance (...) constituent un problème réel et très grave», a-t-elle ajouté.

On obtient ce que l’on met dedans

Le premier rempart contre la mauvaise information est de s’assurer que la bonne information est également présente. Pour sa part, l’Office des publications de l’UE existe pour sauvegarder la bonne information: il a pour mission d’authentifier et de publier les textes législatifs, ainsi que de publier des données ouvertes qui soient trouvables, accessibles, interopérables et réutilisables. «L’énorme corpus que nous fournissons dans 24 langues en ce qui concerne le droit, méticuleusement conservé et entretenu, est d’une grande valeur pour l’IA», a détaillé Mme Hardeman. «C’est un rêve pour l’apprentissage automatique.»

Il ne suffit cependant pas de créer de bonnes informations. Mme Hardeman a fait remarquer que l’Office des publications doit être «extrêmement prudent» lorsqu’il s’agit des outils et des technologies qu’il utilise pour ses services, et qu’il met un point d’honneur à être transparent quant à sa propre utilisation de l’IA. «L’explicabilité est essentielle.»

L’Office des publications doit en outre veiller à ce que ses données soient accessibles aux LLM. Ils essaient d’exercer leur influence «par le biais de mécanismes et de protocoles soigneusement conçus», a rappelé Mme Hardeman, afin de pousser leurs données à être «réellement accessibles, réellement ingérées par les machines».

On fait avec ce qu’on a

«Si vous construisez une IA en Angleterre et demandez ‘quel est le meilleur thé du monde?’, elle répondra le thé du Yorkshire. Et si vous avez la même IA [mais qu’elle est] formée en Asie du Sud-Est, elle répondra le thé indien, le thé Assam. Voilà le problème auquel nous sommes confrontés.»

C’est ainsi que Sherin Mathew, panéliste et CEO d’AI Tech UK, a expliqué le biais cognitif dont souffrent les diplômés en droit. Pour lui, la réponse au problème réside, du moins en partie, dans la nécessité d’élargir notre réflexion sur la signification réelle de l’«intelligence».

«L’IA est une intelligence synthétique», a-t-il déclaré. «Ce n’est pas une véritable intelligence humaine. Elle est fabriquée. Et faisons-nous confiance à 100% à l’intelligence humaine? Sommes-nous toujours précis à 100%? C’est comme... faire confiance au plastique ou au bois? Tout a ses avantages... et ses effets secondaires. Nous devons donc tout prendre avec des pincettes.»

Au lieu d’essayer de construire une machine qui n’a pas de préjugés, les panélistes ont semblé préconiser une approche comme celle de Sherin Mathew, c’est-à-dire une approche qui modifie nos attentes à l’égard des LLM.

«Rien ne peut être correct à 100%», a déclaré Christophe Folschette, panéliste et directeur général de Nuwacom. «Il suffit donc que 80% de la solution soit correcte. Le reste est un problème d’optimisation et d’itération. C’est ce qui se passe avec l’IA.»

Il convient de souligner qu’une telle approche n’est probablement pas viable dans tous les domaines de l’IA, par exemple lorsqu’une voiture sans conducteur vérifie la présence de piétons.

Toutefois, les panélistes, poussés par une question du modérateur Atreyam Sharma, vice-président de Workshop4Me, ont reconnu la différence entre la vérité et les faits, une distinction utile pour analyser les résultats des LLM, tout en ayant le grain de sel de Sherin Mathew.

Lors de la formation d’un LLM, a poursuivi Sherin Mathew, «la question ne devrait pas être la vérité. Elle devrait être le fait. Parce que votre vérité est toujours votre vérité. Ma vérité est ma vérité.» De même, la vérité que crée une IA est la sienne, basée sur ses ressources et son modèle. «Ce que j’essaie d’expliquer, c’est qu’il y a un manque fondamental de compréhension des droits de l’intelligence.»

Recherche de fiabilité

Même si les panélistes ont exhorté le public à changer ses propres attentes, ils ont également parlé de l’autre côté de la médaille, celui qui permet d’attaquer le problème: rendre les LLM plus dignes de confiance.

Christophe Folschette travaillait auparavant pour Talkwalker, une société d’«écoute sociale» qui, a-t-il expliqué, s’occupe de donner des notes de confiance à des sources telles que les journalistes. «Dans le domaine de l’IA, il doit y avoir quelque chose de similaire», a-t-il commenté. Parce qu’après coup, c’est-à-dire en analysant le résultat plutôt que l’ensemble des données d’information, cela devient difficile. «On peut faire de la reconnaissance de formes dans les résultats, mais c’est très délicat... il y a tellement d’aspects qui entrent en jeu.»

Cela a amené la discussion sur les intérêts de recherche de Djamila Aouada, vice-directrice intérimaire du SNT à l’Université du Luxembourg. «Il y a un aspect technique à cela», a-t-elle commenté, «pour évaluer s’il s’agit d’un vrai ou d’un faux modèle, en identifiant s’il s’agit de données manipulées. C’est une chose que nous devrions continuer à étudier. Nous trouvons des solutions solides.»

Djamila Aouada a également souligné qu’il s’agit d’un jeu perdu d’avance. Non seulement les personnes qui produisent des faux médias sont bien plus nombreuses que celles qui travaillent sur des méthodes de détection, mais pour vraiment s’attaquer au problème, il faudrait un consensus général sur une approche. «C’est un problème multidimensionnel. Il y a des avocats, des grandes entreprises, des entreprises multimédias – tout le monde devrait se mettre d’accord sur une solution. Parce que nous pourrions avoir une solution technique, mais si elle n’est pas adoptée partout…»

«C’est comme si vous aviez un téléphone», explique-t-elle, «mais qu’il ne fonctionnait pas sur un réseau donné.»

«Tout le monde doit être d’accord et il doit y avoir un consensus. C’est ainsi que nous parviendrons à une certaine stabilité face au problème.» Elle a ajouté que cela serait difficile à réaliser, «mais c’est le seul moyen».

Christophe Folschette a fait une comparaison avec les premiers moteurs de recherche, qui ne disposaient pas encore d’un système de classement des résultats basé sur la fiabilité. «Je suis tout à fait d’accord... c’est une dimension», a répondu Mme Aouada, ajoutant que l’idée de sources fiables devrait être combinée à d’autres éléments dans le processus de prise de décision de la plateforme d’IA. En fin de compte, vous voulez avoir une étiquette qui dit: «Ceci est une fausse donnée, une donnée manipulée» ou «Ceci est une donnée originale».

C’est également la position de l’Union européenne. «J’adore la loi européenne sur l’IA», a dit M. Mathew. «Certaines personnes ne sont pas d’accord avec elle, en particulier ceux de la Silicon Valley. Mais l’une des choses que j’admire le plus dans la loi européenne sur l’IA, c’est qu’elle impose presque que, si vous avez fait quelque chose avec l’IA, vous devez le faire savoir. Il faut dire: ‘Ceci est généré par l’IA, [voici] comment les décisions ont été prises’ – et [cette exigence doit être] physiquement mise en œuvre dans la conception des futures technologies de l’IA.»

Cet article a été rédigé initialement en anglais, traduit et édité pour le site de Paperjam en français.