Exercicis d'estimació puntual i per intervals

La descomposició.

$\operatorname{MSE} = \operatorname{Var} + \text{biaix}^{2} = 9 + 2^{2} = 13$

Per què importa. Hi ha dues fonts d'error, i reduir-ne una sovint augmenta l'altra. Un estimador lleugerament esbiaixat però molt més estable pot tenir menys error total que un de no esbiaixat i sorollós.

Aquest compromís entre biaix i variància reapareix a tot arreu: a la variància mostral amb denominador $n$ contra $n-1$, a la regressió regularitzada i a tot l'aprenentatge automàtic. Triar l'estimador no esbiaixat no és automàticament la decisió correcta.

Pas 1 — el pivot. Sota normalitat,

$\frac{(n-1)s^{2}}{\sigma^{2}} \sim \chi^{2}_{24}$

Pas 2 — invertir la desigualtat. De $\chi^{2}_{24} \leq 39.364$ surt

$\sigma^{2} \geq \frac{24\cdot9}{39.364} \approx 5.4872$

El detall que es falla sempre: els quantils van creuats. El quantil gran dona l'extrem petit i el petit dona l'extrem gran, perquè en invertir una desigualtat que té el paràmetre al denominador el sentit canvia.

I una altra cosa: aquest interval no és simètric al voltant de $s^{2}$, al contrari del de la mitjana. La khi quadrat és asimètrica i l'interval ho hereta.

Pas 1 — error estàndard.

$\frac{2}{\sqrt{25}} \approx 0.4000$

Pas 2 — multiplicar pel quantil. Com que $\sigma$ és desconeguda, el pivot és una $t$ amb $24$ graus de llibertat:

$h = 2.064\cdot 0.4000 \approx 0.8256$

L'interval seria, doncs, aproximadament de $11.174$ a $12.826$.

Com s'ha de dir. No «hi ha un 95% de probabilitat que la mitjana estigui aquí dins», sinó «amb un procediment que encerta el 95% de les vegades, l'interval obtingut és aquest». El paràmetre és fix; el que és aleatori és l'interval.

Pas 1 — error estàndard.

$\sqrt{\frac{\hat p(1-\hat p)}{n}} = \sqrt{\frac{\frac{1}{10}\cdot\frac{9}{10}}{1000}} \approx 0.00949$

Pas 2 — multiplicar pel quantil.

$h = 1{,}96\cdot0.00949 \approx 0.01859$

Quan aquest interval falla. Amb mostres petites o amb proporcions molt properes a $0$ o a $1$, el de Wald pot donar extrems fora del rang vàlid i la seva cobertura real pot quedar molt per sota del $95\%$ nominal. Llavors es fa servir l'interval de Wilson, que s'obté invertint el contrast de puntuació i es comporta molt millor als extrems.

Detall útil: el producte $\hat p(1-\hat p)$ és màxim a $0{,}5$, o sigui que el cas pitjor (l'interval més ample) surt amb proporcions properes a la meitat.

La descomposició.

$\operatorname{MSE} = \operatorname{Var} + \text{biaix}^{2} = 9 + \frac{1}{4}^{2} = \frac{145}{16} \approx 9.0625$

Per què importa. Hi ha dues fonts d'error, i reduir-ne una sovint augmenta l'altra. Un estimador lleugerament esbiaixat però molt més estable pot tenir menys error total que un de no esbiaixat i sorollós.

Aquest compromís entre biaix i variància reapareix a tot arreu: a la variància mostral amb denominador $n$ contra $n-1$, a la regressió regularitzada i a tot l'aprenentatge automàtic. Triar l'estimador no esbiaixat no és automàticament la decisió correcta.

Pas 1 — el pivot. Sota normalitat,

$\frac{(n-1)s^{2}}{\sigma^{2}} \sim \chi^{2}_{24}$

Pas 2 — invertir la desigualtat. De $\chi^{2}_{24} \leq 39.364$ surt

$\sigma^{2} \geq \frac{24\cdot16}{39.364} \approx 9.7551$

El detall que es falla sempre: els quantils van creuats. El quantil gran dona l'extrem petit i el petit dona l'extrem gran, perquè en invertir una desigualtat que té el paràmetre al denominador el sentit canvia.

I una altra cosa: aquest interval no és simètric al voltant de $s^{2}$, al contrari del de la mitjana. La khi quadrat és asimètrica i l'interval ho hereta.

Pas 1 — error estàndard.

$\frac{4}{\sqrt{25}} \approx 0.8000$

Pas 2 — multiplicar pel quantil. Com que $\sigma$ és desconeguda, el pivot és una $t$ amb $24$ graus de llibertat:

$h = 2.064\cdot 0.8000 \approx 1.6512$

L'interval seria, doncs, aproximadament de $10.349$ a $13.651$.

Com s'ha de dir. No «hi ha un 95% de probabilitat que la mitjana estigui aquí dins», sinó «amb un procediment que encerta el 95% de les vegades, l'interval obtingut és aquest». El paràmetre és fix; el que és aleatori és l'interval.

Pas 1 — error estàndard.

$\sqrt{\frac{\hat p(1-\hat p)}{n}} = \sqrt{\frac{\frac{3}{5}\cdot\frac{2}{5}}{1000}} \approx 0.01549$

Pas 2 — multiplicar pel quantil.

$h = 1{,}96\cdot0.01549 \approx 0.03036$

Quan aquest interval falla. Amb mostres petites o amb proporcions molt properes a $0$ o a $1$, el de Wald pot donar extrems fora del rang vàlid i la seva cobertura real pot quedar molt per sota del $95\%$ nominal. Llavors es fa servir l'interval de Wilson, que s'obté invertint el contrast de puntuació i es comporta molt millor als extrems.

Detall útil: el producte $\hat p(1-\hat p)$ és màxim a $0{,}5$, o sigui que el cas pitjor (l'interval més ample) surt amb proporcions properes a la meitat.

La descomposició.

$\operatorname{MSE} = \operatorname{Var} + \text{biaix}^{2} = 9 + 3^{2} = 18$

Per què importa. Hi ha dues fonts d'error, i reduir-ne una sovint augmenta l'altra. Un estimador lleugerament esbiaixat però molt més estable pot tenir menys error total que un de no esbiaixat i sorollós.

Aquest compromís entre biaix i variància reapareix a tot arreu: a la variància mostral amb denominador $n$ contra $n-1$, a la regressió regularitzada i a tot l'aprenentatge automàtic. Triar l'estimador no esbiaixat no és automàticament la decisió correcta.

Pas 1 — el pivot. Sota normalitat,

$\frac{(n-1)s^{2}}{\sigma^{2}} \sim \chi^{2}_{24}$

Pas 2 — invertir la desigualtat. De $\chi^{2}_{24} \leq 39.364$ surt

$\sigma^{2} \geq \frac{24\cdot25}{39.364} \approx 15.2424$

El detall que es falla sempre: els quantils van creuats. El quantil gran dona l'extrem petit i el petit dona l'extrem gran, perquè en invertir una desigualtat que té el paràmetre al denominador el sentit canvia.

I una altra cosa: aquest interval no és simètric al voltant de $s^{2}$, al contrari del de la mitjana. La khi quadrat és asimètrica i l'interval ho hereta.