728x90 반응형 전체 글267 모평균 추정과 신뢰구간 (Inference on a population mean, confidence Interval, t-interval, z-interval) t-intervals vs. z-intervals모평균(population mean)을 추정할 때 모평균과 모분산을 모두 모를때(both unknown) t-procedure를 이용한다.정리하자면 다음과 같은 상황에서 모평균을 추정할 때 t-procedure를 사용한다.population이 normal distribution임이 알려져 있다. (매우 강력한 가정!)μ와 σ2가 알려져 있지 않다. (both unknown)sample size n은 사실 상관이 없다.※ CLT에 의해 n≥30인 경우에도 사용한다고 하지만, 이 경우 t-procedure보다 z-procedure를 사용하는 것이 옳다. ※ n≥30인 경우에 t-procedure를 사용해도 문제.. 2024. 5. 4. Method of Moments vs Maximum Likelihood Estimate (MOM, MLE, 적률추정법, 최대우도추정법) Method of Moments & Maximum Likelihood Estimate간단하게 적률추정법(MOM)과 최대우도추정법(MLE)를 설명하고 비교해보자.Notation공통되는 notation 정리θ: parameter, 모수. 일반적으로 알 수 없다(unknown). μ, σ2은 모평균, 모분산으로 population이기 때문에 일반적으로 알 수 없다.θ^: estimator, 모수 추정량. X: 확률변수x, x1,x2,…,xn: data, observation, 실제 관찰(관측)된 값X¯: 확률변수로의 표본평균x¯: 실제 관측 값의 표분평균S2: 확률변수로의 표본분산s2: 실제.. 2024. 4. 30. Applications of Inequalities (여러가지 부등식과 몇 가지 활용) Inequality in mathematical application: Triangle, Cauchy-Schwartz, Young's, Höolder's, Jensen's1+x≤ex ∀x∈R f(x)=e2−x−1이라 하고 모든 실수에서 f(x)≥0임을 보인다. f′(x)=ex−1이고 f″(x)=ex이므로 convex이므로 x=0에서 최솟값을 갖는다.f(x)의 최솟값이 f(0)=0이므로 f(x)≥f(0)=0이다.(1−x)n≥1−nx for 0≤x≤1f(x)=(1−x)n−(1−nx)이라 하고 [0,1]에서 f(x)≥0임을 보인다.. 2024. 4. 20. LG Aimers 4기 본선 해커톤 후기 (대회, 여담, 사진) LG Aimers 4: Hackathon, 인화원, Career, etc. 본선이 4/6~4/7 1박 2일동안 진행되었다.수상하지 못했지만 데이터 대회를 처음 참여한 것 치고 잘 한것 같아서 좋았고 또 아쉬웠다. 1. 온라인 교육1월 한달 동안 LG AI 연구원에서 국내 저명한 교수님들의 강의를 제공해주었다.원래 온라인 교육은 한달이지만, 온라인 해커톤(이하 예선)때도 참고할 수 있도록 2월까지 강의를 듣게 해주었다.강의주제는 다음과 같다.AI 윤리수학SVD를 설명하기 위한 선형대수Convex Optimization, 경사하강법PCA기계학습ML 기본 이론최근 LLM 연구 동향 및 성과 (GPT-4, Bard, PaLM, LLaMA)지도학습지도학습 개념선형회귀경사하강법, SGD선형분류기, softmaxSV.. 2024. 4. 10. [LaTeX] Greek letters and usages (수학, 과학의 그리스 문자의 쓰임) Greek letters in Mathematics and Science 수학 수식을 쓰다보면 그리스 문자를 많이 쓰는데, 일반적 용도를 정리해보려 한다.대부분 어떠한 양(quantity), 상수(constant), 모수(parameter)이다.문맥에 따라 달라질 수 있지만, 일반적인 용도에서 아래와 같이 쓰인다고 생각하면 된다.Alpha, 알파 (α,A, \alpha, A)각도, 계수 등에 사용된다. 학문 도메인에 따라 자주 표기되는 용도는 다음과 같다.(물리) 각 가속도(angular acceleration)(통계) 유의수준 (significance level)Beta, 베타 (β,B, \beta, B)각도, 계수 등에 사용된다.(물리) beta particle, veloc.. 2024. 3. 25. [Sampling] Markov Chain Monte Carlo (MCMC) (5) - Diagnosis MCMC diagnosis: convergence, correlations, CLT, effective sample size (ESS) MCMC: Pros and Cons(+) high dimensional data에서 잘 동작한다.(+) Metropolis-Hastings 알고리즘과 같이 general-purpose sampler로 확장이 쉽다(+) 구현이 쉬운 편이다(-) sequential한 성질 때문에 대규보 데이터로 확장이 어렵다 (not really scalable)(-) 어떤 chain이 target distribution에 도달하는지 명확하지 않다.(-) 수렴 지표가 명확하지 않다.그렇다면 무엇이 더 좋은 MCMC 알고리즘으로 만들까?좋은 MCMC는, high-density 영역에 오래 머.. 2024. 3. 19. 이전 1 ··· 4 5 6 7 8 9 10 ··· 45 다음 728x90 반응형