IA générative, biais algorithmiques et transparence

Sciences de l'information · Master 1

Enjeux éthiques de l'IA dans les services d'information : biais, hallucinations, provenance.

Introduction

Les moteurs de recherche, les systèmes de recommandation et les outils d'IA générative filtrent et produisent de l'information. Leur usage dans les bibliothèques, centres de documentation et services de veille soulève des questions éthiques : qui décide de ce qui est visible, avec quelles données d'entraînement et avec quels biais ?

Un biais algorithmique est une erreur systématique qui favorise ou défavorise certains groupes ou points de vue, souvent héritée des données d'entraînement. Les modèles génératifs peuvent en outre produire des « hallucinations » : des réponses plausibles mais fausses, y compris des références bibliographiques inexistantes.

Le professionnel de l'information a un rôle de garde-fou : exiger de la transparence, vérifier les sources, protéger les données confidentielles et former les usagers à un usage critique. Les enjeux de droit d'auteur et de protection des données restent à respecter.

Objectifs d'apprentissage

Définir biais algorithmique et hallucination
Évaluer la transparence d'un outil d'IA
Vérifier une référence générée par IA
Identifier les risques de confidentialité
Proposer des règles d'usage pour une institution

Concepts clés

Biais algorithmique: Erreur systématique d'un système, souvent due aux données ou à la conception.
Hallucination: Contenu faux mais plausible produit par un modèle génératif.
Transparence: Informer sur le fonctionnement, les données et les limites d'un outil.
Provenance: Origine traçable d'un contenu ou d'une donnée.

Conclusion

L'IA générative est un outil utile mais faillible. L'éthique de l'information exige transparence, vérification des sources, protection des données et formation à l'esprit critique.

Cartes

Qu'est-ce qu'un biais algorithmique ?: Une erreur systématique qui avantage ou désavantage certains groupes ou points de vue.
D'où viennent souvent les biais ?: Des données d'entraînement non représentatives, des choix de conception ou de l'usage fait du système.
Qu'est-ce qu'une hallucination ?: Une réponse inventée mais présentée de façon crédible, par exemple une référence bibliographique inexistante.
Comment vérifier une référence fournie par une IA ?: La rechercher dans le catalogue, une base bibliographique ou via son DOI, et lire la source.
Qu'est-ce que l'explicabilité ?: La capacité à expliquer, de façon compréhensible, comment une décision ou une sortie a été produite.
Pourquoi la transparence compte-t-elle ?: Elle permet aux usagers de juger la fiabilité et de contester un résultat.
Quel risque présente la saisie de données confidentielles dans un outil public d'IA ?: Elles peuvent être traitées hors du contrôle de l'institution, voire réutilisées, ce qui pose un problème de protection des données et de secret.
Que faire face à des contenus protégés par le droit d'auteur ?: Vérifier la licence et ne pas supposer que ce qui est généré ou accessible est libre de droits.
Quel est le rôle du professionnel de l'information ?: Évaluer les outils, former les usagers, définir des règles d'usage et garder une trace des sources.

Glossaire

Biais algorithmique: Distorsion systématique d'un résultat.
Hallucination: Sortie fausse mais plausible d'un modèle.
Explicabilité: Possibilité d'expliquer une sortie.
Provenance: Traçabilité de l'origine d'un contenu.
Système de recommandation: Algorithme qui suggère des contenus.
Bulle de filtre: Enfermement dans des contenus proches de ses préférences.