Relier le prédicteur linéaire Xβ à l'espérance μ, quel que soit son domaine naturel : le mécanisme central qui rend les GLM applicables à toute loi de la famille exponentielle.
En régression linéaire classique, $\mathbb E[Y]=X\beta$ directement. Mais si $Y$ est binaire, $\mathbb E[Y]=p\in[0,1]$ : on ne peut pas écrire $p=X\beta$ sans risquer d'obtenir des valeurs hors de $[0,1]$ pour certaines combinaisons de variables explicatives. Il faut un mécanisme reliant le prédicteur linéaire $\eta=X\beta$ (qui parcourt $\mathbb R$) à l'espérance $\mu=\mathbb E[Y]$ (qui vit dans le domaine propre à la loi choisie).
La fonction de lien $g$ relie l'espérance $\mu=\mathbb E[Y]$ au prédicteur linéaire $\eta=X\beta$ :
$$g(\mu) = \eta = X\beta \qquad \Longleftrightarrow \qquad \mu = g^{-1}(\eta)$$
La fonction $g$ doit être monotone et inversible, transformant le domaine naturel de $\mu$ (par exemple $[0,1]$ pour Bernoulli) en $\mathbb R$ tout entier — l'espace où $\eta=X\beta$ peut librement varier.
Pour chaque loi de la famille exponentielle (chapitre précédent), il existe un choix naturel de fonction de lien : celui qui identifie directement $\eta$ au paramètre naturel $\theta$, soit $g(\mu)=\theta$. Ce choix, appelé lien canonique, simplifie considérablement les calculs d'estimation (chapitre « Optimisation de la vraisemblance »).
| Loi | Lien canonique g(μ) | Inverse g⁻¹(η) | Usage |
|---|---|---|---|
| Normale | $\mu$ (identité) | $\eta$ | Régression classique |
| Bernoulli | $\log\dfrac\mu{1-\mu}$ (logit) | $\dfrac1{1+e^{-\eta}}$ | Régression logistique |
| Poisson | $\log\mu$ | $e^\eta$ | Régression de Poisson |
Pour $\beta=(-2,\,0{,}5,\,1{,}2)^T$ et $x=(1,3,2)^T$ (intercept, $x_1=3$, $x_2=2$) : $\eta=x^T\beta=-2+0{,}5\times3+1{,}2\times2=-2+1{,}5+2{,}4=1{,}9$.
Avec le lien logit inverse : $p=\dfrac1{1+e^{-1{,}9}}\approx0{,}870$ — quelle que soit la valeur de $\eta\in\mathbb R$, $p$ reste garanti dans $[0,1]$, résolvant exactement le problème posé au §1.
Pour $\beta=(1,\,0{,}3,\,-0{,}1)^T$ et $x=(1,4,2)^T$ : $\eta=1+0{,}3\times4-0{,}1\times2=1+1{,}2-0{,}2=2{,}0$.
Avec le lien logarithmique inverse : $\lambda=e^{2{,}0}\approx7{,}389$ — garanti strictement positif quel que soit $\eta$, une propriété indispensable pour un paramètre de comptage.
Rien n'impose d'utiliser le lien canonique : pour la régression binaire, le lien probit (fonction de répartition de la loi normale centrée réduite) est une alternative courante. Le choix du lien canonique reste néanmoins privilégié pour ses propriétés statistiques avantageuses et son interprétation simple des coefficients (chapitres suivants).
Ce cadre unifié — famille exponentielle + fonction de lien + prédicteur linéaire $X\beta$ — constitue la définition complète d'un modèle linéaire généralisé (GLM). Les deux chapitres suivants appliquent ce cadre aux deux cas les plus utilisés en pratique : la régression logistique (Bernoulli, lien logit) et la régression de Poisson (comptages, lien logarithmique).
La fonction logistique (lien logit inverse) transforme le prédicteur linéaire $\eta\in\mathbb R$ en une probabilité $\mu\in[0,1]$, avec une forme en « S » caractéristique — $\mu=0{,}5$ exactement lorsque $\eta=0$.
Pour $\beta=(-1,\,0{,}8,\,-0{,}3)^T$ et $x=(1,5,3)^T$, calculer $\eta=x^T\beta$.
$\eta=-1+0{,}8\times5-0{,}3\times3=-1+4-0{,}9=2{,}1$.
Pour $\eta=2{,}1$ (exercice 1), calculer $\mu=\dfrac1{1+e^{-\eta}}$.
$\mu=\dfrac1{1+e^{-2{,}1}}\approx0{,}891$.
Pour $\beta=(0{,}5,\,0{,}2,\,0{,}1)^T$ et $x=(1,3,5)^T$, calculer $\eta$ puis $\mu=e^\eta$.
$\eta=0{,}5+0{,}2\times3+0{,}1\times5=0{,}5+0{,}6+0{,}5=1{,}6$.
$\mu=e^{1{,}6}\approx4{,}953$.
Pour une régression normale classique avec $\eta=9$, quelle est la valeur de $\mu$ avec le lien identité ?
$\mu=\eta=9$ (cours §3) : le lien identité ne transforme pas le prédicteur linéaire.
Si l'on utilisait le lien identité ($\mu=\eta$) pour une régression logistique, et que $\eta=1{,}5$ pour une observation, quel problème cela poserait-il ?
$\mu=1{,}5$ serait interprété comme une probabilité, mais $1{,}5\notin[0,1]$ : une valeur absurde pour une probabilité — exactement le problème que la fonction de lien logit (cours §1) est conçue pour éviter.
Pour $\mu=0{,}7$, calculer $\eta=g(\mu)=\log\dfrac\mu{1-\mu}$.
$\eta=\log(0{,}7/0{,}3)\approx0{,}847$.
Pour $\mu=12$ (loi de Poisson), calculer $\eta=g(\mu)=\log\mu$.
$\eta=\log12\approx2{,}485$.
Pour la loi de Bernoulli, quel est le lien canonique, et pourquoi porte-t-il ce nom ?
Le lien logit, $g(\mu)=\log\dfrac\mu{1-\mu}$ (cours §3) — il porte ce nom car il identifie directement $\eta$ au paramètre naturel $\theta$ de la famille exponentielle (chapitre précédent), simplifiant les calculs d'estimation.
Le lien probit utilise la fonction de répartition de la loi normale centrée réduite $\Phi$ au lieu de la fonction logistique. En quoi ces deux fonctions se ressemblent-elles qualitativement ?
Les deux sont des fonctions monotones croissantes, en forme de « S », transformant $\mathbb R$ en $[0,1]$ — elles produisent des courbes très similaires en pratique, bien que le lien logit reste privilégié pour la simplicité de l'interprétation de ses coefficients (rapports de cotes, chapitre « Régression logistique »).
Pour modéliser la probabilité qu'un patient développe une maladie, quel type de lien serait naturellement adapté ?
Un lien pour variable binaire (logit ou probit, cours §3) : la variable à expliquer (développer la maladie ou non) est de nature Bernoulli, nécessitant une fonction de lien garantissant une probabilité dans $[0,1]$.
Pour $\mu=0{,}9$ (Bernoulli), calculer $\eta$ correspondant par le lien logit.
$\eta=\log(0{,}9/0{,}1)=\log9\approx2{,}197$.
Pourquoi est-il essentiel que la fonction logistique $\mu=1/(1+e^{-\eta})$ soit strictement croissante en $\eta$ ?
La monotonie garantit que la relation entre $\eta$ et $\mu$ est inversible (cours §2) : à chaque valeur de $\mu$ correspond une unique valeur de $\eta$, ce qui est nécessaire pour que le modèle soit bien défini et interprétable (une augmentation du prédicteur linéaire se traduit toujours par une augmentation de la probabilité prédite, jamais l'inverse).
Pourquoi $\mu=e^\eta$ (lien log inverse) est-il toujours strictement positif, quelle que soit la valeur de $\eta\in\mathbb R$ ?
La fonction exponentielle a pour image $]0,+\infty[$ (chapitre « Fonction exponentielle »), quelle que soit la valeur (même très négative) de son argument — une propriété essentielle pour modéliser un paramètre de comptage $\lambda$, nécessairement positif.
Calculer $\mu$ (lien logit inverse) pour $\eta=-3$ et $\eta=3$, et commenter la symétrie observée.
$\eta=-3$ : $\mu\approx0{,}047$. $\eta=3$ : $\mu\approx0{,}953$.
Les deux valeurs sont symétriques par rapport à $0{,}5$ ($0{,}047+0{,}953=1$) : la fonction logistique vérifie $\sigma(-\eta)=1-\sigma(\eta)$, une propriété de symétrie caractéristique.
Vrai ou faux : « une fonction de lien doit être monotone et inversible ».
Vrai (cours §2) : ces deux propriétés garantissent une correspondance bijective entre le prédicteur linéaire $\eta$ et l'espérance $\mu$, condition nécessaire pour que le modèle GLM soit bien défini.
Si l'on utilisait le lien identité (au lieu du lien logarithmique) pour modéliser un nombre de sinistres, et que $\eta=-2$ pour une observation, quel problème surviendrait ?
$\mu=-2$ serait interprété comme un nombre moyen de sinistres négatif, ce qui n'a physiquement aucun sens (un comptage ne peut pas être négatif) — exactement le problème que le lien logarithmique (cours §3 et §5) est conçu pour éviter, en garantissant $\mu\gt0$.
Autour de $\eta=0$ (où $\mu=0{,}5$), la fonction logistique est-elle plus « sensible » (pente plus forte) qu'aux extrémités ($\eta$ très grand ou très négatif) ?
Oui : la pente de la fonction logistique est maximale en $\eta=0$ et décroît à mesure que $|\eta|$ augmente (la courbe s'aplatit aux extrémités, cours §7, illustration) — une petite variation du prédicteur linéaire autour de $\eta=0$ a donc un effet plus marqué sur la probabilité prédite qu'une variation de même ampleur loin de $0$.
Un assureur modélise le nombre de réclamations annuelles par client. Quel lien recommanderiez-vous, et pourquoi ?
Le lien logarithmique (associé à une loi de Poisson, cours §3 et chapitre suivant) : le nombre de réclamations est une variable de comptage, nécessitant un lien garantissant une espérance positive — exactement le rôle du lien logarithmique.
Calculer $\mu$ pour $\eta=-5$ et $\eta=5$. Que remarque-t-on sur la vitesse de variation de $\mu$ pour des $|\eta|$ élevés ?
$\eta=-5$ : $\mu\approx0{,}0067$. $\eta=5$ : $\mu\approx0{,}9933$.
Les valeurs sont déjà très proches de $0$ et $1$ respectivement : la fonction logistique sature pour les grandes valeurs de $|\eta|$, une variation supplémentaire de $\eta$ n'ayant alors presque plus d'effet sur $\mu$ (cours, exercice 17).
Pour $\beta=(2,\,-0{,}5,\,0{,}3)^T$ et $x=(1,4,6)^T$ : (a) calculer $\eta$. (b) calculer $\mu$ avec un lien logit (cas binaire). (c) calculer $\mu$ avec un lien logarithmique (cas comptage), pour la même valeur de $\eta$.
(a) $\eta=2-0{,}5\times4+0{,}3\times6=2-2+1{,}8=1{,}8$.
(b) $\mu_{\text{logit}}=\dfrac1{1+e^{-1{,}8}}\approx0{,}858$.
(c) $\mu_{\text{log}}=e^{1{,}8}\approx6{,}050$ — la même valeur de $\eta$ produit des interprétations radicalement différentes selon le lien choisi, illustrant bien que le choix du lien dépend fondamentalement de la nature de la variable $Y$ étudiée.
Exercice A — Pour une régression logistique avec $\beta=(-1{,}5,\,0{,}6,\,0{,}4)^T$ et une observation $x=(1,4,2)^T$.
1. Calculer le prédicteur linéaire $\eta$.
2. Calculer la probabilité $\mu$ correspondante via le lien logit inverse.
3. Pour une autre observation où l'on souhaite $\mu=0{,}6$, calculer la valeur de $\eta$ nécessaire (lien direct).
Exercice B — Question de cours
Expliquer pourquoi le choix de la fonction de lien dépend fondamentalement de la nature de la variable à expliquer, en illustrant avec deux exemples différents.
Un ingénieur réseau modélise le nombre de connexions simultanées à un serveur par une régression de Poisson, avec $\beta=(0{,}8,\,0{,}15,\,-0{,}05)^T$ (intercept, heure de la journée codée $x_1$, jour férié codé $x_2\in\{0,1\}$).
1. Pour une observation $x=(1,10,3)^T$, calculer le prédicteur linéaire $\eta$.
2. Calculer le nombre moyen de connexions prédit $\mu=e^\eta$.
3. Pourquoi ne pourrait-on pas utiliser un lien identité pour ce modèle, même si les prédictions restaient généralement positives sur ce jeu de données particulier ?