Interprétabilité (PDP, SHAP) et équité des modèles de tarification

Sciences actuarielles · Master 2

Rendre un modèle opaque explicable (PDP, SHAP) et contrôler les biais, avec la nLPD.

Introduction

Plus un modèle prédictif est flexible, moins ses prédictions sont lisibles. Or un assureur doit pouvoir expliquer un tarif à son client, à la direction et à l'autorité de surveillance. Des outils d'interprétabilité post hoc répondent à ce besoin : les graphiques de dépendance partielle (PDP) montrent l'effet moyen d'une variable, tandis que les valeurs SHAP, issues des valeurs de Shapley de la théorie des jeux, répartissent la différence entre une prédiction et la prédiction moyenne entre les variables.

L'équité est l'autre face du sujet. Une variable neutre en apparence, comme le code postal, peut servir de proxy à une caractéristique sensible. En Suisse, la loi fédérale sur la protection des données révisée (nLPD) encadre notamment les décisions individuelles automatisées et le profilage, ce qui impose à l'actuaire de documenter les données et la logique des modèles.

Objectifs d'apprentissage

Interpréter un graphique de dépendance partielle et ses limites
Expliquer la logique des valeurs de Shapley et leurs propriétés
Distinguer explication globale et explication locale
Identifier les variables proxy et les risques de discrimination indirecte
Situer les exigences de transparence liées à la nLPD

Concepts clés

Dépendance partielle (PDP): Courbe de la prédiction moyenne du modèle lorsqu'on fait varier une variable en gardant les autres telles qu'observées. Elle suppose l'indépendance entre variables ; en cas de forte corrélation, elle évalue le modèle sur des combinaisons irréalistes.
Valeurs de Shapley et SHAP: Chaque variable reçoit sa contribution marginale moyenne sur toutes les coalitions possibles de variables. Propriété clé : l'efficacité, la somme des contributions égale la prédiction moins la prédiction moyenne. SHAP donne des explications locales, agrégeables en importances globales.
Variables proxy: Des variables non sensibles corrélées à une caractéristique sensible (origine, genre, état de santé) peuvent la reconstituer. Retirer la variable sensible ne suffit donc pas à garantir l'absence de discrimination indirecte.
Cadre suisse des données: La nLPD prévoit des règles sur les décisions individuelles automatisées et sur le profilage, avec un devoir d'information. L'assureur doit pouvoir décrire les données utilisées et la logique générale du modèle ; la LCA, la LAMal et les règles de l'autorité de surveillance (FINMA) s'appliquent en outre selon la branche.

Conclusion

L'interprétabilité n'est pas un luxe : elle conditionne l'acceptation d'un modèle par le client, le régulateur et la direction. PDP et SHAP éclairent le fonctionnement du modèle sans en garantir l'équité, qui demande des contrôles dédiés.

La documentation des données et de la logique du modèle est la meilleure réponse aux exigences de transparence liées à la nLPD.

Cartes

Que montre un graphique de dépendance partielle ?: L'effet moyen d'une variable sur la prédiction du modèle quand elle varie.
Quelle est la limite principale du PDP ?: Il suppose l'indépendance des variables et peut s'appuyer sur des combinaisons irréalistes si elles sont corrélées.
Quelle idée est à la base des valeurs SHAP ?: Les valeurs de Shapley : la contribution moyenne d'une variable sur toutes les coalitions possibles.
Que garantit la propriété d'efficacité de SHAP ?: Que la somme des contributions des variables égale la prédiction moins la prédiction moyenne.
Explication globale ou locale : que donne un SHAP pour un client ?: Une explication locale, propre à la prédiction de ce client.
Qu'est-ce qu'une variable proxy ?: Une variable en apparence neutre mais corrélée à une caractéristique sensible, qu'elle peut reconstituer indirectement.
Supprimer la variable sensible garantit-il l'équité du modèle ?: Non : les proxies peuvent en restituer l'information, d'où la nécessité de tests de résultats par groupe.
Que régit notamment la nLPD en matière de modèles ?: Entre autres les décisions individuelles automatisées et le profilage, avec des obligations d'information et de transparence.
Pourquoi la corrélation entre variables complique-t-elle l'attribution SHAP ?: Parce que la contribution se répartit entre variables liées, ce qui rend les valeurs individuelles sensibles au choix de la méthode de calcul.

Glossaire

Explication post hoc: Explication produite après l'entraînement d'un modèle opaque, sans modifier le modèle lui-même.
Valeur de Shapley: Part équitable attribuée à un joueur dans un jeu coopératif, calculée comme moyenne de ses contributions marginales.
Discrimination indirecte: Désavantage d'un groupe résultant d'un critère apparemment neutre.
Équité algorithmique: Ensemble de critères visant à contrôler les écarts de traitement ou de résultats entre groupes.
Profilage: Traitement automatisé de données personnelles pour évaluer certains aspects d'une personne, notamment le risque.
Audit de modèle: Revue documentée des données, de la méthode, des performances et des biais d'un modèle avant et pendant son usage.