La main gauche d’une IA, avec un stylo bleu

Cette réflexion est un soutien à Thélyson Orélien et à tous les écrivains. Si nous sommes conscients que nul être humain n’est infaillible, il n’est pas nécessaire d’être informaticien pour comprendre qu’un système informatique peut lui aussi produire des erreurs. Aucun modèle de Machine Learning (ML) ou d’intelligence artificielle ne peut donc prédire un résultat avec une certitude absolue de 100 %. Un résultat produit par un modèle reste une estimation probabiliste, qui doit être interprétée avec discernement et non considérée comme une vérité absolue.

Être Mukallaf, c’est innover, mais c’est aussi discerner. À une époque où chacun peut potentiellement être confronté à une accusation de plagiat ou à une détection automatisée, il devient essentiel de comprendre les outils que nous utilisons et leurs limites. Un outil de détection peut fournir un indice, attirer l’attention ou orienter une vérification, mais il ne devrait pas se substituer au jugement humain ni être considéré comme une preuve infaillible.

Cette réflexion nous oblige également à nous interroger sur les données qui alimentent les systèmes d’intelligence artificielle. Nos écrits, nos e-mails, nos documents et nos productions sont aujourd’hui souvent rédigés à l’aide de logiciels ou sont publiés sur Internet. Nous savons tous que des logiciels comme Word intègrent des fonctionnalités liées à l’IA. Selon les outils utilisés et les paramètres de confidentialité, ces contenus peuvent être accessibles, indexés ou soumis à différents traitements automatisés.

Les modèles d’IA sont par ailleurs entraînés à partir de grandes quantités de données provenant de sources diverses. Des textes, des ouvrages, des articles et d’autres productions intellectuelles numérisés et accessibles en ligne peuvent, selon les conditions de collecte et d’utilisation, contribuer à l’entraînement de certains modèles.

Prenons alors un exemple purement hypothétique. Imaginons qu’un intellectuel comme le professeur Souleymane Bachir Diagne ait publié une partie importante de son œuvre sous forme numérique et que certains de ses textes aient été intégrés à un corpus utilisé pour entraîner un modèle d’IA. Certaines caractéristiques de son style, certaines tournures ou certains modes d’expression pourraient alors se retrouver, sous une forme ou une autre, dans les productions du modèle.

Dans ce contexte, une question se pose. Si un outil de détection identifie ensuite des ressemblances entre une production humaine et un texte généré par ce modèle, peut-on automatiquement en déduire que le texte humain a été produit par une IA ou qu’il constitue un plagiat ?

La réponse mérite nécessairement d’être examinée avec attention. Une ressemblance stylistique, à elle seule, ne permet pas d’établir l’origine d’un texte. L’exemple du professeur Souleymane Bachir Diagne est ici une illustration hypothétique d’un problème plus général et ne signifie évidemment pas qu’il aurait été ou serait nécessairement accusé de plagiat par une IA.

Il existe alors un paradoxe intéressant. Les modèles d’IA sont conçus à partir du langage humain, entraînés sur des productions humaines et capables de reproduire certaines structures d’écriture ou de raisonnement. Comment lors, déterminer avec certitude qu’une caractéristique donnée appartient exclusivement à l’IA plutôt qu’à l’ensemble des productions humaines sur lesquelles elle a été entraînée ?

Cela ne signifie évidemment pas qu’il ne faut plus vérifier les productions des intellectuels, des chercheurs, des écrivains ou des personnes lambda. La vérification reste indispensable. Mais lorsqu’une accusation de plagiat ou de fraude intellectuelle repose sur un outil automatisé, son résultat doit être considéré comme un élément parmi d’autres et confronté aux éléments concrets permettant d’établir l’origine d’une production.

C’est aussi là que se trouve une autre difficulté. Beaucoup de personnes commentent aujourd’hui les capacités des modèles d’IA sans nécessairement connaître leurs mécanismes conceptuels et techniques. Elles peuvent pourtant leur accorder une confiance qu’elles n’accorderaient pas nécessairement à un être humain. Or, comprendre les limites d’un système est aussi important que connaître ses performances.

D’ailleurs, un modèle de classification ou de prédiction ne doit pas être considéré comme infaillible. Une probabilité ou un score reste le résultat d’un calcul fondé sur certaines caractéristiques, certaines données et certaines hypothèses de conception. Ce résultat ne constitue pas, par nature, une vérité absolue.

Pour votre information, cette réflexion est écrite par la main gauche d’une IA, avec un stylo bleu. Nous vous demandons donc de la soumettre à Pangram pour une vérification.

Et si Pangram conclut que ce texte a été généré par une IA, posez-vous simplement cette question.

Qui doit-on croire lorsque l’outil se trompe, l’outil ou l’être humain ?

C’est précisément là que commence le discernement. Comprendra qui pourra !

 @Yoo Alla Faabo !!!

Abdoul GUISSÉ (Informaticien)