# Fracture numérique et intelligence artificielle en santé Santé globale · Master 1 > Biais algorithmiques, principes éthiques de l’OMS et inégalités d’accès aux outils numériques. ## Introduction L’intelligence artificielle (IA) est de plus en plus utilisée en santé: lecture d’imagerie, aide au diagnostic, triage, prédiction de risque, assistants conversationnels. Elle promet d’améliorer l’efficacité et l’accès, notamment là où les spécialistes manquent. Mais elle peut aussi aggraver les inégalités si elle est conçue, validée ou déployée sans attention aux populations concernées. L’OMS a publié des lignes directrices sur l’éthique et la gouvernance de l’IA pour la santé, qui mettent en avant des principes tels que la protection de l’autonomie humaine, la promotion du bien-être et de la sécurité, la transparence, la responsabilité, l’inclusivité et l’équité, et la durabilité. La fracture numérique conditionne qui bénéficie réellement de ces outils. Ce deck examine les biais des données, la validation et la responsabilité, ainsi que les conditions d’une IA utile et sûre dans les contextes à ressources limitées. ## Objectifs d'apprentissage - Décrire les usages principaux de l’IA en santé et leurs limites - Identifier les sources de biais algorithmique - Énoncer les principes éthiques de l’OMS pour l’IA en santé - Expliquer les exigences de validation et de responsabilité - Analyser les effets de la fracture numérique sur l’équité ## Concepts clés - **Usages et limites** : L’IA peut aider à lire des images, prioriser des patients ou prédire des risques. Ses performances dépendent des données d’entraînement et du contexte; un modèle performant dans un hôpital peut mal fonctionner ailleurs (dérive, changement de population). - **Biais et équité** : Si les données sous-représentent certains groupes (femmes, minorités, patients de pays à faible revenu), le modèle peut être moins précis pour eux. Les biais peuvent aussi provenir des étiquettes, des variables choisies ou des usages. - **Principes éthiques de l’OMS** : Autonomie humaine, bien-être et sécurité, transparence et explicabilité, responsabilité, inclusivité et équité, et durabilité. Ils appellent à des garde-fous réglementaires, une supervision humaine et une participation des parties prenantes. - **Fracture numérique** : Accès inégal à la connectivité, à l’électricité, aux appareils et à la littératie numérique. Sans stratégie d’inclusion, l’IA peut bénéficier surtout aux populations déjà favorisées et creuser l’écart. ## Conclusion L’IA en santé n’est ni une solution miracle ni une menace inévitable: son impact dépend des données, de la gouvernance et du contexte d’usage. Les biais et la fracture numérique peuvent transformer une promesse d’équité en facteur d’inégalités. Les principes éthiques de l’OMS, la validation locale et la supervision humaine offrent un cadre pour développer des outils utiles, sûrs et inclusifs. ## Cartes ### Citez trois usages de l’IA en santé. Lecture d’imagerie, aide au diagnostic et triage, prédiction de risque. ### Qu’est-ce qu’un biais algorithmique ? Une erreur systématique qui désavantage certains groupes, souvent liée aux données ou à la conception. ### Pourquoi la représentativité des données est-elle essentielle ? Un modèle entraîné sur une population peut être moins fiable pour une autre. ### Que signifie la dérive d’un modèle ? La baisse de performance quand les données réelles diffèrent de celles d’entraînement. ### Pourquoi valider cliniquement un outil d’IA ? Pour démontrer qu’il est sûr et utile dans le contexte réel d’usage. ### Que signifie explicabilité ? La capacité de comprendre, au moins en partie, pourquoi un système a produit un résultat. ### Qui doit rester responsable de la décision clinique ? Le professionnel de santé, avec supervision humaine de l’outil. ### Citez des principes éthiques de l’OMS pour l’IA. Autonomie, bien-être et sécurité, transparence, responsabilité, inclusivité et équité, durabilité. ### Pourquoi l’IA peut-elle aggraver les inégalités ? Faute d’accès, de données représentatives ou d’adaptation aux contextes locaux. ### Que signifie littératie numérique ? La capacité à utiliser et évaluer de manière critique les outils numériques. ### Quels risques posent les assistants conversationnels en santé ? Erreurs, informations non vérifiées, fausse assurance et confidentialité des données. ### Quelle condition favorise une IA utile en contexte à ressources limitées ? Besoins prioritaires identifiés, outils adaptés au contexte, formation et maintenance durables. ## Glossaire - **Intelligence artificielle** : Systèmes capables d’effectuer des tâches nécessitant habituellement une intelligence humaine. - **Biais algorithmique** : Erreur systématique défavorisant certains groupes. - **Explicabilité** : Possibilité de comprendre les raisons d’un résultat algorithmique. - **Dérive** : Perte de performance d’un modèle quand le contexte change. - **Supervision humaine** : Contrôle exercé par un professionnel sur l’usage et les résultats de l’IA. - **Fracture numérique** : Inégalité d’accès et d’usage des technologies numériques. - **Données d’entraînement** : Jeu de données utilisé pour construire un modèle. https://ruvy.ch/decks/-P5C_sGP6jKUhBvKxPp7