결합확률분포, Joint Distribution

 

Section 7. Joint Distributions

Joint Cumulative Distribution Functions, 결합 누적 분포 함수

확률면수 $X$, $Y$에 대하여 둘의 분포를 정확히 알 고 있다고 하자. 

그러나 이 둘의 관계(relationship)에 대해서는 아는바가 없다.

 

Joint Cumulative Distribution Functions, 결합 누적 분포 함수, joint cdfs

두 확률변수 $X,Y$에 대하여 결합누적분포함수 $F_{X,Y}:\mathbb{R}\to [0,1]$을 다음과 같이 정의한다.

$$F_{X,Y}(x,y)=P(X\le x,Y\le y)$$

Note: comma($,$)는 "and"를 의미한다. 즉 $P(X\le xandY\le y)$이다.

$P(a<X\le b,c<Y\le d)=F_{X,Y}(b,d)-F_{X,Y}(a,d)-F_{X,Y}(b,c)+F_{X,Y}(a,c)$

 

Marginal Distributions, 주변확률분포

이제 우리는 joint cdf $F_{X,Y}$로 $X$와 $Y$의 관계를 알 수 있다. 그러나 $F_{X,Y}$는 $X$나 $Y$의 정보를 주지 못한다. 이제 $F_{X,Y}$로부터 $F_X,F_Y$를 구해보자.

두 확률변수 $X,Y$의 joint cdf를 $F_{X,Y}$라 하자. 이때 $X$와 $Y$의 cdf는 다음과 같이 구한다.

$$F_X(X)=\underset{y\to \mathrm{\infty }}{lim}{F}_{X,Y}(x,y),{\mathrm{\forall }}_x\in \mathbb{R}$$
$$F_Y(y)=\underset{x\to \mathrm{\infty }}{lim}{F}_{X,Y}(x,y),{\mathrm{\forall }}_y\in \mathbb{R}$$ 

Note: $F_{X,Y}$로 얻은 $F_X$를 marginal cumulative distribution function이라 부르고, 이때의 $X$의 분포를 marginal distribution이라 부른다.

Proof

$F_X(x)=P(X\le x)=P(X\le x,Y\le \mathrm{\infty })={\displaystyle \underset{y\to \mathrm{\infty }}{lim}P(X\le x,Y\le y)=\underset{y\to \mathrm{\infty }}{lim}{F}_{X,Y}(x,y)}$

 

Joint Probability Function, 결합 확률 (질량) 함수

두 (이산)확률변수 $X,Y$에 대하여 ${\mathbb{R}}^2\to \mathbb{R}$로 사상하는 결합확률(질량)함수(joint probability function) $p_{X,Y}$를 다음과 같이 정의한다.
$$p_{X,Y}(x,y)=P(X=x,Y=y)$$

 

joint probability function을 안다면, marginal probability function 역시 쉽게 구할 수 있다.

두 (이산)확률변수 $X,Y$의 joint probability function을 $p_{X,Y}$라 할 때 $X,Y$의 확률함수 $p_X,p_Y$를 다음과 같이 구한다.
$$p_X(x)=\sum _y{p}_{X,Y}(x,y)$$
$$p_Y(y)=\sum _x{p}_{X,Y}(x,y)$$

Proof

$P_X(x)=P(X=x)={\displaystyle \sum _{y}P(X=x,Y=y)=\sum _y{p}_{X,Y}(x,y)}$

 

Example 2.7.5

joint probability function이 다음과 같이 정의되어있다.

$$p_{X,Y}(x,y)=\{\begin{array}{l}1/7x=5,y=0\\ 1/7x=5,y=3\\ 1/7x=5,y=4\\ 3/7x=8,y=0\\ 1/7x=8,y=4\\ 0\text{otherwise.}\end{array}$$

확률분포표를 만들면 쉽게 확률을 구할 수 있다.

Example 2.7.5의 확률분포표

따라서 $P_X(5)=1/7+1/7+1/7=2/7$, $p_X(4)=3/7+1/7=4/7$, $p_Y(4)=1/7+1/7=2/7$이다.

 

Joint Density Functions, 결합(밀도)함수

Joint Density Function

$f:{\mathbb{R}}^2\to \mathbb{R}$가 $f(x,y)\ge 0$이고 ${\int }_{\mathrm{\infty }}^{\mathrm{\infty }}{\int }_{\mathrm{\infty }}^{\mathrm{\infty }}f(x,y)dxdy=1$을 만족하면 결합(밀도)함수라고 부른다. 

joint density function을 이용하여 확률을 계산할 때는 아래와 같이 계산한다.
$$P(a\le X\le b,c\le Y\le d)={\int }_c^d{\int }_a^{b}f(x,y)dxdy$$

두 (연속)확률변수 $X,Y$의 joint density function을 $f_{X,Y}$라 하자. 이때 $X$, $Y$의 (marginal) density function은 아래와 같이 구한다.

$$f_X(x)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{f}_{X,Y}(x,y)dy$$
$$f_Y(y)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{f}_{X,Y}(x,y)dx$$

Example 2.7.8

joint density 가 아래와 같을 때, 물음에 답하여라.

$$f_{X,Y}(x,y)=\{\begin{array}{l}120x^{3}yx\ge 0.y\ge 0.x+y\le 1\\ 0\text{otherwises.}\end{array}$$

Example 2.7.8의 정의역

(1) density function이 맞는가?

${\displaystyle {\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{f}_{X,Y}(x,y)dxdy={\int }_0^1{\int }_0^{1-x}120x^{3}ydydx={\int }_0^{1}120x^3\frac{(1-x{)}^2}{2}dx=1}$

따라서 $f_{X,Y}$는 결합밀도함수이다.

 

(2) $f_X(x)$를 구하여라.

${\displaystyle f_X(x)={\int }_0^{1-x}120x^{3}ydy=120x^3\frac{(1-x{)}^2}{2}=10(x^3-2x^4+x^5)(0\le x\le 1)}$

 

※ 범위를 반드시 명시해야 한다.