Régression linéaire simple et corrélation

Économie d'entreprise · Bachelor 3

Moindres carrés, coefficient de corrélation, R² et limites de l'interprétation causale.

Introduction

La régression linéaire simple modélise une variable dépendante y (ventes, coûts) comme une fonction affine d'une variable explicative x (budget publicitaire, volume d'activité) : y = a + b x + erreur. Elle permet de décrire une relation, de prévoir et de tester un effet.

La méthode des moindres carrés ordinaires choisit la droite qui minimise la somme des carrés des résidus. Le coefficient de corrélation et le R² mesurent la force du lien linéaire, mais ne prouvent jamais une causalité.

Objectifs d'apprentissage

Calculer pente et ordonnée à l'origine par les moindres carrés
Interpréter les coefficients dans le contexte de gestion
Calculer et interpréter le coefficient de corrélation et R²
Utiliser la droite pour prévoir en évitant l'extrapolation hasardeuse
Reconnaître les limites : causalité, valeurs extrêmes, hétéroscédasticité

Concepts clés

Droite des moindres carrés: Droite qui minimise la somme des carrés des écarts verticaux entre observations et valeurs ajustées.
Pente et ordonnée: b = covariance(x, y) / variance(x) ; a = ȳ - b x̄. La pente mesure la variation moyenne de y pour une unité de x.
Coefficient de corrélation r: Entre -1 et +1 : force et sens du lien linéaire ; r = 0 n'exclut pas un lien non linéaire.
Coefficient de détermination R²: Part de la variance de y expliquée par le modèle ; en régression simple, R² = r².
Corrélation et causalité: Une corrélation peut venir d'un facteur commun ou du hasard : seule la conception de l'étude permet d'avancer une causalité.

Conclusion

La régression linéaire simple fournit un outil robuste pour décrire et prévoir, à condition d'en comprendre les hypothèses. Pente, ordonnée, corrélation et R² donnent des informations complémentaires qu'il faut interpréter dans leur contexte de gestion.

La vigilance reste de mise : association n'est pas causalité, et un bon R² ne dispense pas d'examiner les résidus et les valeurs extrêmes.

Cartes

Quel modèle décrit la régression linéaire simple ?: y = a + b x + e, avec a l'ordonnée à l'origine, b la pente et e l'erreur.
Quel critère utilisent les moindres carrés ordinaires ?: Minimiser la somme des carrés des résidus (écarts entre y observé et y ajusté).
Quelles sont les formules de b et a ?: b = Sxy / Sxx (somme des produits des écarts sur somme des carrés des écarts de x) ; a = ȳ - b x̄.
Pour x = 1, 2, 3, 4, 5 et y = 2, 4, 5, 4, 5, quelle est la pente ?: x̄ = 3, ȳ = 4, Sxy = 6, Sxx = 10 : b = 0,6.
Quelle est l'ordonnée dans cet exemple ?: a = 4 - 0,6 x 3 = 2,2 ; la droite est y = 2,2 + 0,6 x.
Quel est le R² de cet exemple ?: Variance expliquée 3,6 sur variance totale 6 : R² = 0,6, soit 60 %.
Que signifie r = -0,9 ?: Un lien linéaire fort et négatif : quand x augmente, y tend à diminuer nettement.
Pourquoi corrélation n'implique-t-elle pas causalité ?: Elle peut résulter d'un facteur commun, d'une causalité inverse ou du hasard.
Quel danger présente l'extrapolation ?: Utiliser la droite hors de l'intervalle observé de x suppose que la relation reste valable, ce qui n'est pas garanti.

Glossaire

Variable dépendante: Variable que l'on cherche à expliquer ou à prévoir.
Variable explicative: Variable utilisée pour expliquer la variable dépendante.
Résidu: Différence entre la valeur observée et la valeur ajustée par la droite.
Covariance: Mesure de la variation conjointe de deux variables.
Coefficient de détermination: Part de la variance de y expliquée par le modèle.
Hétéroscédasticité: Variance des erreurs qui n'est pas constante selon x.