IA générative en entreprise : confidentialité, shadow AI, charte d'usage

Informatique de gestion · Master 1

Risques de l'IA générative au travail : secret, hallucinations, droits d'auteur, charte.

Introduction

Les assistants d'IA générative se sont diffusés dans les entreprises souvent plus vite que les règles internes. Beaucoup de collaborateurs les utilisent à leur initiative avec des comptes personnels : on parle de shadow AI, par analogie avec le shadow IT. Le risque principal est la fuite d'informations : coller dans un outil public un contrat, une liste de clients ou du code source peut exposer des données confidentielles, des données personnelles ou des secrets d'affaires, et dépend des conditions du fournisseur (conservation, réutilisation, lieu de traitement).

Deuxième risque : la fiabilité. Un modèle de langage produit un texte plausible, pas forcément exact ; les hallucinations (références inventées, chiffres faux) obligent à une vérification humaine. Troisième risque : la propriété intellectuelle, tant pour les contenus fournis que pour les productions, dont le statut en droit d'auteur reste discuté, et la conformité aux obligations de secret, comme le secret professionnel ou bancaire pour certaines professions.

La réponse organisationnelle est une charte d'usage : classification des données autorisées, outils approuvés, règle de la responsabilité humaine (c'est la personne qui signe qui répond du résultat), traçabilité, formation et canal de signalement. Interdire en bloc pousse souvent vers l'usage caché ; encadrer et former donne de meilleurs résultats.

Objectifs d'apprentissage

Définir la shadow AI et ses risques
Classer les données selon leur aptitude à être soumises à un outil externe
Expliquer hallucination et nécessité de vérification
Identifier les enjeux de propriété intellectuelle et de secret
Rédiger les éléments d'une charte d'usage

Concepts clés

Shadow AI: Usage d'outils d'IA non approuvés par l'organisation.
Classification des données: Détermine ce qui peut être transmis à un outil externe.
Hallucination: Contenu plausible mais faux, généré par un modèle.
Responsabilité humaine: La personne qui utilise le résultat en répond.
Charte d'usage: Règles, outils approuvés, formation et signalement.

Conclusion

L'IA générative apporte des gains de productivité, mais seulement si elle est encadrée : données classifiées, outils approuvés, vérification humaine et formation.

La charte d'usage transforme une pratique diffuse et risquée en un usage maîtrisé, sans freiner l'innovation.

Cartes

Qu'est-ce que la shadow AI ?: L'usage d'outils d'IA par des collaborateurs sans validation ni encadrement de l'entreprise.
Pourquoi coller un contrat client dans un assistant public est-il risqué ?: Les données peuvent être conservées, réutilisées ou traitées hors de Suisse selon les conditions du fournisseur, et violer la confidentialité contractuelle.
Qu'est-ce qu'une hallucination d'IA ?: Une réponse formulée avec assurance mais inexacte ou inventée, comme une fausse source.
Qui répond d'un texte rédigé avec l'IA et envoyé à un client ?: L'auteur et l'organisation : l'IA n'a pas de responsabilité juridique, d'où l'obligation de relecture.
Quelles catégories de données interdire par défaut aux outils publics ?: Données personnelles, secrets d'affaires, informations couvertes par un secret professionnel, codes sources critiques et données clients.
Pourquoi une interdiction totale est-elle souvent inefficace ?: Elle pousse à des usages cachés sur comptes personnels ; mieux vaut proposer des outils approuvés et former.
Quels éléments inclure dans une charte d'usage ?: Outils autorisés, données interdites, obligation de vérification, mention des usages, formation, journalisation et contact en cas d'incident.
Quel est le statut du droit d'auteur sur un texte généré par IA ?: La question est discutée : en Suisse, l'œuvre suppose une création de l'esprit individuelle, ce qui rend la protection d'un contenu purement généré incertaine.
Pourquoi former les collaborateurs ?: Pour réduire erreurs et fuites : compréhension des limites, techniques de vérification et des règles de la charte.

Glossaire

Shadow AI: Utilisation non autorisée ou non encadrée d'outils d'IA au travail.
Hallucination: Sortie plausible mais fausse d'un modèle génératif.
Secret d'affaires: Information confidentielle à valeur économique que l'entreprise protège.
Charte d'usage: Document interne fixant les règles d'emploi d'un outil.
Responsabilité humaine: Principe selon lequel la personne reste responsable du résultat produit avec l'IA.
Journalisation: Conservation de traces d'usage pour audit et enquête.