# IA générative : LLM et RAG en entreprise Informatique de gestion · Master 1 > LLM, hallucinations et RAG pour des assistants fondés sur les documents internes. ## Introduction Un grand modèle de langage (LLM) prédit le mot suivant à partir d'un contexte, après un entraînement sur d'immenses corpus. Il produit un texte fluide, mais sans garantie de véracité : il peut inventer des faits, ce qu'on appelle une hallucination. Dans un contexte professionnel, cette limite impose des garde-fous. La génération augmentée par récupération (RAG) répond en partie à ce problème. Les documents de l'entreprise sont découpés en passages, transformés en vecteurs (embeddings) et indexés. À chaque question, le système retrouve les passages les plus proches, les fournit au modèle comme contexte et lui demande de répondre en s'appuyant dessus, idéalement en citant ses sources. La qualité dépend du découpage, de la pertinence de la récupération, des droits d'accès aux documents et de l'évaluation continue. La confidentialité reste centrale : quelles données quittent l'entreprise, vers quel fournisseur, sous quelle juridiction ? ## Objectifs d'apprentissage - Expliquer le fonctionnement général d'un LLM et ses limites - Décrire les étapes d'un pipeline RAG - Définir embedding, découpage et recherche vectorielle - Évaluer la fiabilité des réponses d'un assistant - Identifier les risques de confidentialité et de sécurité ## Concepts clés - **LLM** : Modèle statistique de langage qui génère du texte plausible ; il ne vérifie pas la vérité des faits. - **RAG** : Récupération de passages pertinents dans une base documentaire, injectés dans le prompt pour ancrer la réponse. - **Embeddings** : Représentations vectorielles du sens d'un texte ; la proximité des vecteurs mesure la similarité. - **Garde-fous** : Citation des sources, droits d'accès, filtrage, évaluation et supervision humaine. ## Conclusion Les LLM offrent des gains réels mais ne garantissent pas la vérité. Le RAG améliore l'ancrage des réponses dans les sources de l'organisation, à condition de soigner l'indexation, la sécurité et l'évaluation. La supervision humaine reste nécessaire pour les usages à enjeux. ## Cartes ### Qu'est-ce qu'une hallucination ? Une réponse plausible mais fausse ou non fondée produite par un modèle de langage. ### Que signifie RAG ? Retrieval-Augmented Generation : génération de texte augmentée par la récupération de documents. ### Qu'est-ce qu'un embedding ? Un vecteur numérique représentant le sens d'un texte, permettant des comparaisons de similarité. ### Pourquoi découper les documents ? Pour indexer des passages assez courts et ciblés, récupérables et adaptés à la taille de contexte du modèle. ### Comment le RAG réduit-il les hallucinations ? En fournissant au modèle des extraits de sources à citer, même si le risque ne disparaît pas. ### Qu'est-ce qu'un prompt système ? Une consigne de cadrage donnée au modèle : rôle, ton, règles et limites à respecter. ### Pourquoi respecter les droits d'accès dans un RAG ? Pour qu'un utilisateur n'obtienne pas via l'assistant des documents qu'il ne peut pas consulter. ### Qu'est-ce que l'injection de prompt ? Une attaque insérant dans un texte des instructions qui détournent le comportement du modèle. ### Comment évaluer un assistant RAG ? Avec un jeu de questions de référence, en mesurant la pertinence de la récupération et l'exactitude des réponses. ## Glossaire - **LLM** : Grand modèle de langage entraîné pour générer du texte. - **Hallucination** : Contenu inventé présenté comme factuel. - **RAG** : Technique qui enrichit le contexte du modèle avec des documents récupérés. - **Embedding** : Représentation vectorielle d'un texte. - **Base vectorielle** : Index permettant la recherche par proximité de vecteurs. - **Injection de prompt** : Attaque insérant des instructions malveillantes dans le contexte. https://ruvy.ch/decks/-P5CbDMyhOgWtvJsNg89