Disposizioni semplici $D_{n,k}$: definizione e formula.
Numero di sequenze ordinate di $k$ oggetti scelti tra $n$ oggetti diversi (senza ripetizione): $$D_{n,k}=\frac{n!}{(n-k)!}$$
Disposizioni con ripetizione $D^{*}_{n,k}$.
Sequenze ordinate di $k$ oggetti ripetibili scelti tra $n$ oggetti diversi: $$D^{*}_{n,k}=n^{k}$$
Permutazioni $P_n$.
Sequenze ordinate di tutti gli $n$ oggetti diversi: $$P_n=D_{n,n}=n!$$
Combinazioni semplici $C_{n,k}$.
Gruppi di $k$ oggetti scelti tra $n$, indipendentemente dall'ordine: $$C_{n,k}=\binom{n}{k}=\frac{n!}{k!\,(n-k)!}$$
Binomio di Newton: sviluppo di $(a+b)^{n}$.
$$(a+b)^{n}=\sum_{k=0}^{n}\binom{n}{k}\,a^{\,n-k}\,b^{\,k}$$
Conseguenze degli assiomi: complementare e unione di due eventi.
$$P(E^{c})=1-P(E)$$ $$P(A\cup B)=P(A)+P(B)-P(AB)$$ da cui $P(A\cup B)\le P(A)+P(B)$.
Probabilità dell'unione di tre eventi $P(A\cup B\cup C)$.
$$P(A\cup B\cup C)=P(A)+P(B)+P(C)$$ $$-\,P(AB)-P(AC)-P(BC)+P(ABC)$$
Probabilità condizionata $P(A\mid M)$.
$$P(A\mid M)=\frac{P(AM)}{P(M)}$$
Chain rule (regola della catena) per $n$ eventi.
$$P(E_1 E_2\cdots E_n)=P(E_1)\,P(E_2\mid E_1)\,P(E_3\mid E_1 E_2)\cdots P(E_n\mid E_1\cdots E_{n-1})$$
Teorema della probabilità totale.
Se $\{A_1,A_2,\dots\}$ è una partizione di $S$, allora per ogni $B\subset S$: $$P(B)=\sum_{i=1}^{\infty}P(BA_i)=\sum_{i=1}^{\infty}P(B\mid A_i)\,P(A_i)$$
Formula di Bayes.
$$P(A\mid B)=\frac{P(B\mid A)\,P(A)}{P(B)}$$
Indipendenza di due eventi $A,B$: condizioni equivalenti.
$$A,B\ \text{indip.}\iff P(AB)=P(A)\,P(B)\iff P(A\mid B)=P(A)$$
Indipendenza condizionata rispetto a un evento $M$.
$$P(A\mid BM)=P(A\mid M)\iff P(AB\mid M)=P(A\mid M)\,P(B\mid M)$$
Delta di Dirac $\delta(x)$: definizione e proprietà di campionamento.
$\delta(x)=\infty$ per $x=0$ e $\delta(x)=0$ per $x\neq 0$, con $$\int_{-\infty}^{\infty}\delta(x)\,dx=1$$ Proprietà di campionamento (se $f$ continua in $x_0$): $$\int_{-\infty}^{\infty}f(x)\,\delta(x-x_0)\,dx=f(x_0)$$ La sua primitiva è il gradino $U(x)$.
CDF $F_X(x)$: definizione e proprietà principali.
$$F_X(x)=P\{X\le x\}$$ $F_X(-\infty)=0$, $F_X(+\infty)=1$; debolmente crescente e continua da destra. Il salto dà la massa: $$P\{X=x\}=F_X(x^{+})-F_X(x^{-})$$
PDF $f_X(x)$: definizione, normalizzazione, probabilità come area.
$$f_X(x)=\frac{dF_X(x)}{dx}\ge 0,\qquad F_X(x)=\int_{-\infty}^{x}f_X(t)\,dt$$ $$\int_{-\infty}^{\infty}f_X(x)\,dx=1,\qquad P\{a\le X\le b\}=\int_a^b f_X(x)\,dx$$
PMF e rappresentazione della PDF di una VA discreta.
$$p_X(x_i)=P\{X=x_i\}$$ La PDF si esprime tramite delta di Dirac: $$f_X(x)=\sum_i p(x_i)\,\delta(x-x_i)$$
VA Gaussiana $X\sim N(\eta,\sigma^{2})$: PDF, CDF e funzione $Q$.
$$f(x)=\frac{1}{\sqrt{2\pi\sigma^{2}}}\exp\!\left[-\frac{(x-\eta)^{2}}{2\sigma^{2}}\right]$$ $$F(x)=1-Q\!\left(\frac{x-\eta}{\sigma}\right),\quad Q(x)=\int_{x}^{\infty}\frac{1}{\sqrt{2\pi}}\,e^{-y^{2}/2}\,dy$$
VA Esponenziale $X\sim\exp(\lambda)$: PDF e CDF.
Per $x\ge 0$: $$f(x)=\lambda e^{-\lambda x},\qquad F(x)=1-e^{-\lambda x}$$ Entrambe nulle per $x \lt 0$.
VA Uniforme su $[a,b]$: PDF e CDF.
$$f(x)=\frac{1}{b-a}\ \ (a\le x\le b),\quad 0\ \text{altrove}$$ $$F(x)=\frac{x-a}{b-a}\ \ (a\le x\le b),\quad 0\ \text{se } x \lt a,\ \ 1\ \text{se } x \gt b$$
VA Gamma $X\sim \mathrm{Gamma}(p,\alpha)$: forma della PDF.
Per $x\ge 0$: $$f(x)=\frac{\alpha^{p}}{\Gamma(p)}\,x^{\,p-1}\,e^{-\alpha x},\qquad \Gamma(p)=\int_{0}^{\infty}u^{\,p-1}e^{-u}\,du$$ (nulla per $x \lt 0$).
VA di Poisson $X\sim \mathrm{Poisson}(\lambda)$: PMF.
$$p_i=\frac{\lambda^{i}}{i!}\,e^{-\lambda},\qquad i=0,1,2,\dots$$
VA di Bernoulli: PMF.
$$p_0=P\{X=0\}=1-p,\qquad p_1=P\{X=1\}=p$$ e $P\{X\ge 2\}=0$.
VA Binomiale $X\sim \mathrm{Bin}(n,p)$: PMF.
$$p_i=P\{X=i\}=\binom{n}{i}p^{i}(1-p)^{\,n-i},\qquad i=0,1,\dots,n$$
VA Geometrica $X\sim \mathrm{Geo}(p)$: PMF.
$$p_i=P\{X=i\}=p\,(1-p)^{\,i-1}$$
VA di Pascal $X\sim \mathrm{Pascal}(r,p)$: PMF.
$$p_i=P\{X=i\}=\binom{i+r-1}{i}p^{r}(1-p)^{i},\qquad i=0,1,2,\dots$$
Funzione di VA $Y=g(X)$: metodo grafico per la CDF $F_Y(y)$.
Si scrive $F_Y(y)=P\{Y\le y\}$ sostituendo $Y=g(X)$, si isola $X$ e si legge sul grafico di $F_X$. Esempio $Y=aX+b$ (con $a \gt 0$): $$F_Y(y)=P\!\left\{X\le \frac{y-b}{a}\right\}=F_X\!\left(\frac{y-b}{a}\right)$$
Teorema fondamentale: PDF di $Y=g(X)$ (caso continuo).
$$f_Y(y)=\sum_{k}\frac{f_X\!\big(x_k(y)\big)}{\big|\,g'\!\big(x_k(y)\big)\big|}$$ dove $x_k(y)$ sono le soluzioni di $y=g(x)$. Vale $f_Y(y)=0$ fuori dall'immagine di $g$; sui tratti dove $g\equiv\hat{y}$ compare $P\{a \lt X \lt b\}\,\delta(y-\hat{y})$.
CDF e PDF condizionate a un evento $M$.
$$F_X(x\mid M)=\frac{P\{X\le x,\,M\}}{P(M)},\qquad f_X(x\mid M)=\frac{dF_X(x\mid M)}{dx}$$
Densità condizionata e Bayes per VA $X,Y$ continue.
$$f_X(x\mid y)=\frac{f_{XY}(x,y)}{f_Y(y)},\qquad f_Y(y\mid x)=\frac{f_{XY}(x,y)}{f_X(x)}$$ $$f_X(x\mid y)=\frac{f_Y(y\mid x)\,f_X(x)}{f_Y(y)}\quad(\text{Bayes})$$
Densità marginali ottenute dalle condizionate.
$$f_X(x)=\int_{-\infty}^{\infty}f_X(x\mid y)\,f_Y(y)\,dy=E\big[f_X(x\mid Y)\big]$$ (analogamente per $f_Y(y)$).
Indipendenza tra VA $X,Y$ continue: condizioni equivalenti.
$$f_{XY}(x,y)=f_X(x)\,f_Y(y)\ \iff\ f_X(x\mid y)=f_X(x)\ \text{ e }\ f_Y(y\mid x)=f_Y(y)$$
Valor medio $E[X]$ (caso continuo e discreto).
$$E[X]=\int_{-\infty}^{\infty}x\,f_X(x)\,dx\quad(\text{continua})$$ $$E[X]=\sum_i p_i\,x_i\quad(\text{discreta})$$
Teorema dell'aspettazione: valor medio di $Y=g(X)$.
$$E[g(X)]=\int_{-\infty}^{\infty}g(x)\,f_X(x)\,dx\quad(\text{continua})$$ $$E[g(X)]=\sum_i g(x_i)\,p_X(x_i)\quad(\text{discreta})$$
Valor medio di una funzione di vettore aleatorio $Z=g(X,Y)$.
$$E[Z]=\iint g(x,y)\,f_{XY}(x,y)\,dx\,dy\quad(\text{continue})$$ $$E[Z]=\sum_i\sum_k g(x_i,y_k)\,p_{XY}(x_i,y_k)\quad(\text{discrete})$$
Proprietà del valor medio (linearità, simmetria, indipendenza).
Linearità: $E[aX+bY]=aE[X]+bE[Y]$, $E[c]=c$. Se $f_X$ è simmetrica rispetto a $x=a$ allora $E[X]=a$ (es. $N(\eta,\sigma^{2})\Rightarrow E[X]=\eta$). Se $X_1,\dots,X_n$ indipendenti: $E[X_1\cdots X_n]=E[X_1]\cdots E[X_n]$.
Varianza $\mathrm{Var}[X]$: definizione e formula operativa.
$$\mathrm{Var}[X]=\sigma_X^{2}=E\big[(X-\eta_X)^{2}\big]=E[X^{2}]-\eta_X^{2}$$ $\sigma_X$ è la deviazione standard.
Proprietà della varianza.
$\mathrm{Var}[X]\ge 0$; $\mathrm{Var}[aX]=a^{2}\,\mathrm{Var}[X]$. Se $X_1,\dots,X_n$ sono incorrelate (in particolare indipendenti): $$\mathrm{Var}\!\left[\sum_{i=1}^{n}X_i\right]=\sum_{i=1}^{n}\mathrm{Var}[X_i]$$
Valor medio condizionato $E[X\mid M]$ e $E[X\mid Y=y]$.
$$E[X\mid M]=\int_{-\infty}^{\infty}x\,f_X(x\mid M)\,dx,\qquad E[X\mid M]=\sum_i x_i\,p_X(x_i\mid M)$$ $$E[X\mid Y=y]=\int_{-\infty}^{\infty}x\,f_X(x\mid y)\,dx$$
Scomposizione della varianza (legge della varianza totale).
$$\mathrm{Var}[X]=E\big[\mathrm{Var}[X\mid Y]\big]+\mathrm{Var}\big[E[X\mid Y]\big]$$
Teorema della media condizionata.
Se $E[X\mid Y=y]=\phi(y)$, allora $$E_Y\big[E[X\mid Y]\big]=E[\phi(Y)]=E[X]$$
Momenti, MGF e teorema dei momenti.
Momento di ordine $n$: $m_n=E[X^{n}]$. MGF: $\phi_X(s)=E[e^{sX}]$. Teorema dei momenti: $$E[X^{n}]=m_n=\phi_X^{(n)}(0)$$
MGF di una somma di VA indipendenti e IID.
Se $X_1,\dots,X_n$ indipendenti e $Z=\sum_i X_i$: $$\phi_Z(s)=\phi_{X_1}(s)\cdots\phi_{X_n}(s)$$ Se sono anche IID: $\phi_Z(s)=[\phi_X(s)]^{n}$ (più comodo della convoluzione).
JCDF $F_{XY}(x,y)$ e CDF marginali.
$$F_{XY}(x,y)=P\{X\le x,\,Y\le y\}$$ Marginali: $F_X(x)=F_{XY}(x,\infty)$ e $F_Y(y)=F_{XY}(\infty,y)$.
JPDF e densità marginali (vettori congiuntamente continui).
$$P\{(X,Y)\in D\}=\iint_D f_{XY}(x,y)\,dx\,dy$$ Marginali: $$f_X(x)=\int_{-\infty}^{\infty}f_{XY}(x,y)\,dy,\qquad f_Y(y)=\int_{-\infty}^{\infty}f_{XY}(x,y)\,dx$$
JPMF e PMF marginali (vettori discreti).
$$p_{XY}(x_i,y_k)=P\{X=x_i,\,Y=y_k\}$$ Marginali: $$p_X(x_i)=\sum_k p_{XY}(x_i,y_k),\qquad p_Y(y_k)=\sum_i p_{XY}(x_i,y_k)$$
Indipendenza di un vettore aleatorio $(X,Y)$.
Continui: $F_{XY}(x,y)=F_X(x)F_Y(y)\iff f_{XY}(x,y)=f_X(x)f_Y(y)$. Discreti: $p_{XY}(x_i,y_k)=p_X(x_i)\,p_Y(y_k)$.
PDF di una trasformazione $(Z,W)=\big(g(X,Y),\,h(X,Y)\big)$ col Jacobiano.
$$f_{ZW}(z,w)=\sum_{n}\frac{f_{XY}(x_n,y_n)}{\big|\mathcal{J}(x_n,y_n)\big|}$$ con $$\mathcal{J}(x,y)=\frac{\partial z}{\partial x}\frac{\partial w}{\partial y}-\frac{\partial z}{\partial y}\frac{\partial w}{\partial x}=\frac{1}{\mathcal{J}(z,w)}$$ Poi $f_Z(z)=\int_{-\infty}^{\infty}f_{ZW}(z,w)\,dw$.
Una sola funzione $Z=g(X,Y)$: procedura per $f_Z(z)$.
Si introduce una VA ausiliaria ($W=X$ oppure $W=Y$), si risolve il sistema in $(x,y)$, si applica il metodo del Jacobiano per $f_{ZW}(z,w)$ e infine si marginalizza: $$f_Z(z)=\int_{-\infty}^{\infty}f_{ZW}(z,w)\,dw$$
Convoluzione: definizione e uso per somme di VA indipendenti.
$$(f\otimes g)(t)=\int_{-\infty}^{\infty}f(t-u)\,g(u)\,du$$ Se $Z=X+Y$ con $X,Y$ indipendenti, allora $f_Z=f_X\otimes f_Y$. Per $Z=X-Y$: $f_Z(z)=\int_{-\infty}^{\infty}f_X(z+t)\,f_Y(t)\,dt$.
Media campione $\bar{X}_n$ e suo valor medio.
$$\bar{X}_n=\frac{X_1+\cdots+X_n}{n},\qquad E[\bar{X}_n]=\eta_X$$
Somma stocastica $Z=\sum_{i=1}^{N}X_i$ ($N$ aleatorio, indip. dalle $X_i$).
$$E[Z]=\eta_X\,\eta_N$$ $$\mathrm{Var}[Z]=\eta_X\,\sigma_X^{2}+\eta_N\,\sigma_N^{2}$$ (formula così come riportata nel formulario — vedi nota).
Correlazione $E[XY]$ e VA incorrelate.
Se $E[XY]=E[X]\,E[Y]$ allora $X,Y$ sono incorrelate. Inoltre $X,Y$ indipendenti $\Rightarrow$ incorrelate (il viceversa in generale non vale).
Covarianza $\mathrm{Cov}[X,Y]$: definizione.
$$\mathrm{Cov}[X,Y]=C_{XY}=E\big[(X-\eta_X)(Y-\eta_Y)\big]=E[XY]-E[X]\,E[Y]$$ $X,Y$ incorrelate $\iff C_{XY}=0$.
Proprietà della covarianza.
$\mathrm{Cov}[X,X]=\mathrm{Var}[X]$; simmetria $\mathrm{Cov}[X,Y]=\mathrm{Cov}[Y,X]$; bilinearità $$\mathrm{Cov}\!\Big[\sum_i a_i X_i,\ \sum_j b_j Y_j\Big]=\sum_i\sum_j a_i b_j\,\mathrm{Cov}[X_i,Y_j]$$ inoltre $\mathrm{Cov}[X,a]=0$ e $\mathrm{Cov}[X+a,\,Y+b]=\mathrm{Cov}[X,Y]$.
Coefficiente di correlazione $\rho_{XY}$.
$$\rho_{XY}=\frac{\mathrm{Cov}[X,Y]}{\sqrt{\mathrm{Var}[X]\,\mathrm{Var}[Y]}}=\frac{C_{XY}}{\sigma_X\,\sigma_Y}$$