본문 바로가기

728x90

전체 글267

공분산과 상관계수, Covariance and Correlation 두 확률변수의 관계를 나타내는 공분산(covariance)에 대해 알아보자.Covariance, 공분산두 확률변수

X, Y

의 기댓값을 각각

μ_{X}, μ_{Y}

라 할 때, 공분산은 다음과 같이 정의한다.

C o v (X, Y) = E [(X - μ_{X}) (Y - μ_{Y})]

위 식을 전개하여 정리하면, 다음과 동일한 식을 얻을 수 있다.

C o v (X, Y) = E (X Y) - E (X) E (Y)

Note: 공분산의 값의 범위는

(- \infty, \infty)

이다.Note: 공분산은 두 확률변수의 선형 관계(linear relationship)만 파악할 수 있다.Note:

C o v (X, X) = V a r (X)

이다. Linearlity of covariance, 공분산의 선.. 2023. 3. 31.

분산, Variance 확률변수

X

E (X)

를 구하는 법을 알았다.이제,

X

E (X)

로부터 얼마나 멀리 떨어져 있는지에 대한 정보인 분산에 대해 알아보자. Variance, 분산

V a r (X) = σ_{X}^{2} = E [(X - E (X))^{2}] = E (X^{2}) - μ^{2}

Standard Deviation, 표준편차

S d (X) = \sqrt{V a r (X)} = σ_{X}

Note: 경우에 따라

V a r (X)

V (X)

E (X)

μ_{X}

로 표기할 수 있다.Note: 분산의 단위는

X

의 단위의 제곱이다.Note: 표준편차의 단위는

X

의 단위와 같다. (1) 이항분포의 분산

E (X) = n θ

임을 알고 있으므로,

E (X^{2})

을.. 2023. 3. 30.

연속확률변수의 기댓값, Expectation of Continuous Case (Uniform, Exponential, Gamma, Normal) 연속확률변수의 기댓값도 이산확률변수와 거의 같다.Expected value, 기댓값연속확률변수

X

에 대히여 pdf가

f_{X}

X

의 기댓값은 다음과 같다,

E (X) = \int_{- \infty}^{\infty} x f_{X} (x) d x

(1) 균등분포의 기댓값

X \sim U [a, b]

\frac{1}{b - a}

이므로 기댓값은

E (X) = \int_{a}^{b} \frac{x}{b - a} d x = \frac{a + b}{2}

(2) 지수분포의 기댓값

X \sim E x p (λ)

λ e^{- λ x}

이므로 기댓값은 (부분적분을 이용하여)\[ E(X) = \int_0^{\infty}x \lambda e^{-\lambda x} = \lef.. 2023. 3. 30.

Order Statistics, 순서통계량 Order Statistics, 순서 통계량

(X_{1}, \dots, X_{n})

이 i.i.d.한 분포에서 추출한 확률변수하고 하자. 많은 경우에, 우리는 확률변수의 값이 아니라 확률변수의 순서에 관심이 있을 때가 있다. 이런 경우 아래와같이

1

n

번째 확률변수를 나열하면 다음과 같다.

X_{(1)}, \dots X_{(n)}

X_{(i)}

i

번째 작은 확률변수이고, 당연히

X_{(1)} \leq X_{(2)} \leq \dots \leq X_{(n)}

이다. 특별히, 표본 중앙값(sample median, median과는 다르다)은

X_{([\frac{n}{2}])}

이다. Note: 중앙값(median,

m

)의 정의는 cdf

F

에 대하여, .. 2023. 3. 29.

이산확률변수의 기댓값, Expectation of Discrete Case (Bernoulli, Binomial, Geometric, Poisson) 앞서 Ch2에서 확률변수와 확률분포를 배웠다. 이제 유의미한 통계량인 기댓값에 대하여 Ch3를 할애했다.그리고 기댓값을 시작으로 분산, 공분산, 상관계수를 학습하고 적률생성함수(moment generating function, mgf)로

k

E (X^{k})

)까지 유도해본다. Expected value, 기댓값이산확률변수

X

에 대하여, 기댓값을

E (X)

μ_{X}

로 표기한다.

E (X) = \sum_{x \in R} x P (X = x) = \sum_{x \in R} x p_{X} (x)

p_{i} = P (X = x_{i})

로 표기하면 다음과 같이 정의할 수 있다.

E (X) = \sum_{i} x_{i} p_{i}

Note: 기댓값은 음수가 될 수 있다. Degene.. 2023. 3. 29.

[Data Science] Data Preprocessing (5) - Data Transformation Data Transformationattribute의 모든 값을 새로운 값으로 매핑하는 함수를 의미한다.Normalizationmin-max normalizationz-score normalizationDiscretization: concept of hierarchy climbingetc NormalizationMin-max normalization:

[a, b]

M = max (A), m = min (A)

v^{'} = \frac{v - m}{M - m} (b - a) + a

Z-score normalization

v^{'} = \frac{v - μ_{A}}{σ_{A}}

Example다음과 같이 5개의 데이터에 대하여, 각 물음의 방법으로 normalize하여라.\[ 2.. 2023. 3. 28.

이전 1 ··· 30 31 32 33 34 35 36 ··· 45 다음

728x90

티스토리툴바