# Régularisation Lasso, Ridge et Elastic Net en actuariat

Sciences actuarielles · Master 1

> Pénalisation L1 et L2 d'un GLM : sélection de variables, rétrécissement et choix du paramètre λ.

## Introduction

Lorsqu'un modèle de tarification comporte des dizaines de variables corrélées ou des modalités rares, l'estimation par maximum de vraisemblance devient instable : les coefficients varient fortement d'un échantillon à l'autre. La régularisation ajoute à la vraisemblance une pénalité qui contraint la taille des coefficients, au prix d'un léger biais mais avec une variance fortement réduite.

La pénalité L2 (Ridge) rétrécit tous les coefficients sans les annuler, la pénalité L1 (Lasso) en annule une partie et opère ainsi une sélection de variables, et l'Elastic Net combine les deux. Le paramètre λ, qui règle l'intensité de la pénalité, se choisit par validation croisée. L'approche s'intègre aux GLM de Poisson ou Gamma et sert aussi à regrouper automatiquement des modalités proches.

## Objectifs d'apprentissage

- Écrire le critère pénalisé d'un GLM avec pénalités L1 et L2
- Expliquer le compromis biais-variance introduit par la régularisation
- Distinguer les effets du Lasso, du Ridge et de l'Elastic Net
- Choisir λ par validation croisée et la règle de l'écart-type
- Préparer les variables (standardisation, codage des modalités) avant pénalisation

## Concepts clés

- **Critère pénalisé** : On minimise −log-vraisemblance + λ·P(β), avec P(β) = Σ|βj| pour le Lasso et Σβj² pour le Ridge. L'ordonnée à l'origine n'est en général pas pénalisée.
- **Lasso : sélection de variables** : La pénalité L1 a un coin en zéro : certains coefficients deviennent exactement nuls quand λ augmente. Le modèle final est parcimonieux, mais le Lasso choisit de façon arbitraire parmi des variables fortement corrélées.
- **Ridge et Elastic Net** : Le Ridge conserve toutes les variables et répartit l'effet entre variables corrélées. L'Elastic Net, avec un paramètre de mélange α entre L1 et L2, garde la parcimonie du Lasso tout en stabilisant les groupes de variables corrélées.
- **Choix de λ et préparation** : On trace le chemin de régularisation et on retient λ minimisant l'erreur de validation croisée, ou la valeur la plus grande dans un écart-type du minimum (plus parcimonieuse). Les variables doivent être standardisées, sinon la pénalité dépend des unités.

## Conclusion

La régularisation répond à un problème concret de tarification : stabiliser des coefficients estimés sur des portefeuilles larges et bruités. Le Lasso simplifie, le Ridge stabilise, l'Elastic Net concilie les deux.

Avant tout usage, il faut standardiser, valider sur des données hors échantillon et vérifier que les relativités obtenues restent explicables.

## Cartes

### Quel est l'effet d'une pénalité L1 sur les coefficients ?

Elle peut en annuler certains exactement, ce qui réalise une sélection de variables.

### Que fait la pénalité L2 (Ridge) ?

Elle rétrécit tous les coefficients vers zéro sans les annuler, en stabilisant l'estimation.

### Pourquoi standardiser les variables avant d'appliquer un Lasso ?

Parce que la pénalité porte sur la taille des coefficients, qui dépend de l'échelle des variables.

### Quand λ tend vers 0, vers quoi converge le modèle ?

Vers l'estimateur du maximum de vraisemblance non pénalisé.

### Quand λ devient très grand, que devient le modèle ?

Un modèle réduit à l'ordonnée à l'origine, car tous les coefficients tendent vers zéro.

### Pourquoi l'Elastic Net est-il utile avec des variables corrélées ?

Le terme L2 répartit l'effet entre elles, alors que le Lasso seul en choisit une presque au hasard.

### Qu'est-ce que la règle de l'écart-type pour choisir λ ?

Retenir le plus grand λ dont l'erreur de validation croisée reste à moins d'un écart-type du minimum, pour un modèle plus simple.

### Quel biais la régularisation introduit-elle volontairement ?

Un biais sur les coefficients (vers zéro), accepté en échange d'une réduction de variance de l'estimation.

### Comment la régularisation aide-t-elle avec des modalités rares ?

En rétrécissant leurs coefficients, elle évite des relativités extrêmes fondées sur trop peu d'observations ; une pénalité de fusion peut regrouper des modalités voisines.

## Glossaire

- **Compromis biais-variance** : Arbitrage entre l'erreur systématique du modèle (biais) et sa sensibilité à l'échantillon (variance).
- **Chemin de régularisation** : Trajectoire des coefficients estimés lorsque λ varie de très grand à très petit.
- **Validation croisée k-fold** : Découpage des données en k blocs, chacun servant tour à tour de validation, pour estimer l'erreur de généralisation.
- **Parcimonie** : Propriété d'un modèle qui retient peu de variables non nulles.
- **Multicolinéarité** : Forte corrélation entre variables explicatives, qui rend les coefficients instables.
- **Relativité tarifaire** : Facteur multiplicatif associé à une modalité dans un GLM à lien logarithmique, égal à exp(coefficient).

https://ruvy.ch/decks/-P5CwWjJ7uV49261Cpv_