Hallucinations des IA génératives et références inventées : vérifier

Sciences de l'information · Bachelor 3

Comprendre pourquoi un LLM invente des sources et comment les contrôler efficacement.

Introduction

Un modèle de langage génère le texte le plus probable à partir de ses données d'entraînement ; il ne consulte pas une base de faits. Il peut ainsi produire des références bibliographiques d'apparence parfaite mais inexistantes : auteur plausible, revue réelle, titre cohérent, DOI inventé.

Les bibliothécaires reçoivent régulièrement des demandes de vérification de telles références. Savoir contrôler un DOI, interroger un catalogue ou Crossref et évaluer la transparence d'un outil d'IA fait partie des compétences actuelles de la médiation et de la littératie informationnelle.

Objectifs d'apprentissage

Expliquer pourquoi un LLM peut inventer des références
Vérifier une référence avec DOI, catalogue et Crossref
Reconnaître les signes d'une référence douteuse
Évaluer un outil d'IA de recherche selon sa transparence
Conseiller un usager sur un usage prudent des IA

Concepts clés

Hallucination: Contenu plausible mais faux ou non fondé produit par un modèle génératif.
Vérification de référence: Contrôle de l'existence et du contenu d'une source dans un catalogue, une base ou via son DOI.
Transparence de l'outil: Capacité à indiquer ses sources, son corpus et ses limites.

Conclusion

Une référence plausible n'est pas une source. Les compétences de vérification, de repérage et d'évaluation de la transparence restent le cœur de l'accompagnement face à l'IA générative.

Cartes

Pourquoi un LLM peut-il inventer une référence ?: Il prédit une suite de mots plausible et n'a pas d'accès garanti à la source ; il imite la forme d'une référence sans en vérifier l'existence.
Comment contrôler un DOI ?: Le saisir dans doi.org ou interroger Crossref ; vérifier que titre, auteurs et revue correspondent.
Une référence existe mais ne dit pas ce que l'IA affirme. Que faire ?: Lire la source : une référence réelle peut être mal résumée ou citée hors contexte.
Quels signes rendent une référence suspecte ?: DOI introuvable, volume ou pages incohérents, revue qui n'a pas publié cet article, auteurs qui n'ont jamais cosigné ensemble.
Quels outils pour retrouver un article ?: Catalogue de la bibliothèque, outils de découverte, Crossref, bases spécialisées, Google Scholar.
Un outil d'IA citant ses sources est-il fiable ?: Pas automatiquement : il faut ouvrir chaque source, car la citation peut être mal associée à l'affirmation.
Quels critères d'évaluation d'un outil d'IA de recherche ?: Provenance des sources, corpus couvert, mise à jour, possibilité de vérifier, conditions de traitement des données.
Quel risque pour les données personnelles ?: Les requêtes saisies peuvent être conservées par le fournisseur ; il ne faut pas y entrer de données sensibles (nLPD).
Quel message donner aux étudiants ?: L'IA peut aider à explorer ou reformuler, mais chaque source citée doit être lue et vérifiée avant d'être utilisée.
Pourquoi documenter l'usage d'une IA dans un travail ?: La transparence permet à l'enseignant et au lecteur d'évaluer la méthode ; de nombreuses institutions imposent une déclaration.

Glossaire

LLM: Grand modèle de langage entraîné sur de vastes corpus de textes.
DOI: Identifiant pérenne d'un document numérique.
Crossref: Agence d'enregistrement de DOI qui expose les métadonnées d'articles et de livres.
Référence fabriquée: Citation d'apparence plausible qui ne correspond à aucune publication réelle.
Ancrage: Lien entre une affirmation et une source consultable.
Esprit critique: Capacité à évaluer l'origine et la fiabilité d'une information.