Variables aleatòries i distribucions conjuntes: densitats, marginals i canvis de variable

Una variable aleatòria és una manera de deixar de parlar de successos i començar a parlar de números. En comptes de dir «surt cara al tercer llançament», dius «el nombre de cares val 3», i de cop tens a l'abast tota l'anàlisi matemàtica: sumes, integrals, derivades, límits. Aquest canvi de llenguatge és el que fa possible la resta de l'estadística.

La funció de distribució, que sempre existeix

Formalment, una variable aleatòria real és una aplicació mesurable de $\Omega$ als reals, i la mesurabilitat és precisament la condició que garanteix que $\{X \leq x\}$ sigui un succés amb probabilitat ben definida. Aquesta probabilitat, com a funció de $x$, és la funció de distribució:

$$F_X(x) = \mathbb{P}(X\leq x).$$

És creixent, contínua per la dreta, i tendeix a $0$ i a $1$ als dos infinits. La seva virtut és que existeix sempre, sigui quina sigui la variable, i que d'ella se'n treu tot:

$$\mathbb{P}(a < X \leq b) = F_X(b) - F_X(a), \qquad \mathbb{P}(X = x) = F_X(x) - F_X(x^{-}).$$

La segona fórmula diu que la probabilitat d'un punt és exactament la mida del salt de $F$ en aquell punt. Per tant, una variable amb funció de distribució contínua no té cap punt de probabilitat positiva.

Discretes, contínues, i el que hi ha entremig

Una variable discreta té una llista de valors amb masses $p_X(x) = \mathbb{P}(X = x)$ que sumen $1$. Una variable absolutament contínua té una densitat $f_X \geq 0$ amb integral $1$, i la funció de distribució n'és la primitiva acumulada.

Vectors aleatoris: marginals i condicionades

Quan tens dues variables alhora, la informació completa és la densitat conjunta $f_{X,Y}$. D'ella se'n treuen les marginals integrant la variable que no t'interessa, i les condicionades dividint:

$$f_X(x) = \int_{\mathbb{R}} f_{X,Y}(x,y)\,dy, \qquad f_{Y\mid X=x}(y) = \frac{f_{X,Y}(x,y)}{f_X(x)}$$

allà on el denominador és positiu. Compte amb la interpretació de la segona: no és un quocient de probabilitats d'esdeveniments, perquè $\{X = x\}$ té probabilitat zero. És una densitat construïda per analogia amb el cas discret, i el que la justifica és que integrada dona les probabilitats correctes.

Les variables són independents quan la llei conjunta és el producte de les marginals, cosa que amb densitats equival a $f_{X,Y} = f_X f_Y$ gairebé a tot arreu.

Canvi de variable

Si $Y = g(X)$, hi ha un mètode que sempre funciona i una fórmula ràpida que només funciona de vegades. El mètode universal és passar per la funció de distribució: escrius $F_Y(y) = \mathbb{P}(g(X)\leq y)$, resols la desigualtat en termes de $X$, i al final derives si vols la densitat.

La fórmula ràpida val quan $g$ és estrictament monòtona i derivable amb inversa derivable:

$$f_Y(y) = f_X\big(g^{-1}(y)\big)\left|\frac{d}{dy}g^{-1}(y)\right|.$$

El valor absolut hi és perquè una densitat no pot ser negativa; si $g$ decreix, la derivada de la inversa és negativa i el signe s'ha de corregir. Quan $g$ no és monòtona, hi ha diverses preimatges i cal sumar la contribució de cada branca. En dimensió superior el paper de la derivada el fa el valor absolut del determinant del jacobià de la transformació inversa.

Per què això importa

Els canvis de variable no són un exercici de càlcul: són l'operació que fa funcionar la simulació per ordinador, l'estandardització de la normal i la construcció de les distribucions de la inferència. Quan més endavant vegis que el quadrat d'una normal estàndard és una khi quadrat amb un grau de llibertat, o que una uniforme transformada per la inversa de la distribució et dona qualsevol llei que vulguis, estaràs aplicant exactament el que hi ha en aquesta secció.

Exercici resolt: de la uniforme a l'exponencial

Sigui $X$ uniforme a l'interval de $0$ a $1$, i sigui $Y = -\ln X$. Quina distribució té $Y$?

Anem per la funció de distribució. Com que el logaritme d'un número entre $0$ i $1$ és negatiu, $Y$ és positiva, i per tant $F_Y(y) = 0$ si $y < 0$. Per a $y \geq 0$:

$$F_Y(y) = \mathbb{P}(-\ln X \leq y) = \mathbb{P}(\ln X \geq -y) = \mathbb{P}(X \geq e^{-y}) = 1 - e^{-y},$$

on el sentit de la desigualtat s'inverteix en multiplicar per $-1$ i es manté en aplicar l'exponencial, que és creixent. L'última igualtat és simplement la distribució de la uniforme.

Derivant, $f_Y(y) = e^{-y}$: és una exponencial de taxa 1. Aquest resultat és la base del mètode de la transformada inversa per simular variables aleatòries a l'ordinador.

Exercici resolt: canvi afí

Sigui $X$ amb densitat $f_X$ i sigui $Y = aX + b$ amb $a \neq 0$. Troba la densitat de $Y$.

La transformació és estrictament monòtona, o sigui que podem fer servir la fórmula ràpida. La inversa és $x = (y-b)/a$ i la seva derivada és $1/a$. Per tant

$$f_Y(y) = \frac{1}{|a|}\,f_X\!\left(\frac{y-b}{a}\right).$$

El valor absolut és imprescindible: si $a$ fos negatiu, sense ell obtindries una densitat negativa. Interpretació: desplaçar mou la densitat sense deformar-la, i escalar per $a$ l'eixampla per un factor $|a|$ i, per compensar, n'abaixa l'alçada pel mateix factor, de manera que l'àrea es conserva.

Aquest cas concret és el que hi ha darrere de l'estandardització de la normal.