연속확률변수의 기댓값, Expectation of Continuous Case (Uniform, Exponential, Gamma, Normal)

연속확률변수의 기댓값도 이산확률변수와 거의 같다.

Expected value, 기댓값

연속확률변수 $X$에 대히여 pdf가 $f_X$일 때, $X$의 기댓값은 다음과 같다,
\[ E(X) = \int_{-\infty}^{\infty}xf_X(x) dx \]

(1) 균등분포의 기댓값

$X \sim U[a, b]$의 pdf는 $\frac{1}{b-a}$이므로 기댓값은

\[ E(X) = \int_a^b \cfrac{x}{b-a} dx = \cfrac{a+b}{2} \]

 

(2) 지수분포의 기댓값

$X \sim Exp(\lambda)$의 pdf는 $\lambda e^{-\lambda x}$이므로 기댓값은 (부분적분을 이용하여)

\[ E(X) = \int_0^{\infty}x \lambda e^{-\lambda x} = \left[ -xe^{-\lambda x} \right]_{x=0}^{x=\infty} + \int_0^{\infty}e^{-\lambda x} dx = \int_0^{\infty}e^{-\lambda x} dx = \cfrac{1}{\lambda} \]

 

(3) 감마분포의 기댓값

$X \sim Gamma(\alpha, \lambda)$의 pdf는 $\frac{\lambda^{\alpha}}{\Gamma(\alpha)}x^{\alpha - 1}e^{-\lambda x}$이므로

\[ E(X) = \int_0^{\infty}x \cfrac{\lambda^{\alpha}}{\Gamma(\alpha)}x^{\alpha - 1}e^{-\lambda x} = \int_0^{\infty}\cfrac{\lambda^{\alpha + 1}}{\Gamma(\alpha + 1)}x^{\alpha + 1 - 1}e^{-\lambda x}dx \cdot \cfrac{\Gamma(\alpha+1)}{\lambda \Gamma(\alpha)} = \cfrac{\alpha}{\lambda} \]

Note: 지수분포는 감마분포의 $\alpha=1$인 경우이므로 (2)를 유도할 수 있다.

 

Properties of Expectation

연속확률변수의 기댓값 역시 이산확률변수의 기댓값과 동일한 기본 성질을 갖는다.

(1) $X$가 연속확률변수이고, $\mathbb{R} \to \mathbb{R}$로 대응하는 함수 $g(X)$에 대하여 기댓값은
\[ E(g(X)) = \int_{-\infty}^{\infty}g(x)f_X(x) \]

(2) $X, Y$가 연속확률변수이고, $\mathbb{R}^2 \to \mathbb{R}$로 대응하는 함수 $h(X, Y)$에 대하여 기댓값은
\[ E(h(X, Y)) = \int_{-\infty}^{\infty}\int_{-\infty}^{\infty}h(x, y)f_{X,Y}(x, y) dxdy \]

(3) Linearity of expected values
연속확률변수 $X, Y$에 대하여 $Z = aX + bY$라 하자. ($a, b$는 실수).이 때 $Z$의 기댓값은
\[ E(Z) = aE(X)+ bE(Y) \]

(4) 연속확률변수 $X, Y$가 서로 독립이면
\[ E(XY) = E(X)E(Y) \]

(5) Monotonicity
두 연속확률변수 $X, Y$가 $X \le Y$일 때 ($X(s) \le Y(s), \ \forall s \in S$) $E(X) \le E(Y)$이다.

(4) 정규분포의 기댓값

표준정규분포($Z \sim N(0, 1)$)의 기댓값($E(Z)$)을 구하고, 선형성을 이용하여 정규분포($X = \sigma Z + \mu$)의 기댓값($E(X)$)을 구하자.

$\phi(z)$는 $y$축 대칭이고, $z\phi(z)$는 원점대칭이므로

\[ E(Z) = \int_{-\infty}^{\infty}z\phi(z)dz = 0 \]

따라서

\[ E(X) = 0 + \mu = \mu \]