SMALL 전체 글91 확률과 통계 - 추정 (3) 안녕하세요! 공부하는 직장인 동키입니다 :)추정 Chapter 세번째 포스팅 입니다. 3. MAP (Maximum A Posteriori Estimation)3.1 MAP의 개념📘 MAP 기본 아이디어MAP 추정(Maximum A Posteriori)는베이즈 정리(Bayes' theorem)를 기반으로 한 추정 방법입니다.목표는 “데이터가 주어졌을 때, 모수의 사후확률(posterior probability)이 최대가 되는 모수값”을 찾는 것:📗 베이즈 정리p(θ) : 사전확률(prior) — 모수에 대한 기존 신념p(X∣θ) : 가능도(likelihood) — 주어진 모수로 데이터가 나올 확률p(θ∣X) : 사후확률(posterior) — 데이터 관측 후, 모수의 확률p(X) : 정규화 상수(mar.. 2025. 11. 30. 확률과 통계 - 추정 (2) 안녕하세요! 공부하는 직장인 동키입니다 :)추정 Chapter 두번째 포스팅 입니다. 2. MLE (Maximum Likelihood Estimation, 최대우도추정법)2.1 Likelihood(가능도)의 개념(1) 기본 개념Likelihood(가능도)란, 이미 관측된 표본 데이터가 있을 때,그 데이터가 특정 모수값 θ 아래에서 관측될 가능성의 크기를 나타내는 함수를 의미즉, L(θ) : 그 모수값이 θ일 때 “전체 표본이 나올 가능성 f(xi∣θ): 모수가 θ 일 때 데이터 xi 가 나올 확률(혹은 확률밀도) (2) 수식으로 표현(a) 독립 표본의 경우표본이 독립이라면, 즉, 각 확률의 곱으로 전체 가능도를 계산합니다.(b) 로그가능도(log-likelihood)수학적으로 미분하기 편하게 로그를 취.. 2025. 11. 14. 확률과 통계 - 추정 (1) 안녕하세요! 공부하는 직장인 동키입니다 :)추정 Chapter 첫번째 포스팅 입니다. 1. 적률추정법 (MME, Method of Moments Estimation)1.1 MME의 개념(1) 기본 아이디어모집단의 적률(moment)과 표본의 적률(moment)을 일치시키는 방법즉, 이론적으로 계산된 “모집단의 평균, 분산 등 통계량"과실제 표본으로 계산한 “표본평균, 표본분산 등 통계량”을 같게 두고 모수를 추정하는 방식입니다.(2) 수식으로 표현1차 적률 (평균) 2차 적률 (제곱의 평균)3차, 4차 ... , k차 적률도 동일한 방식으로 일반화 가능 모집단의 적률(Population moment) (3) 추정 절차① 표본 적률 계산 ② 모집단 적률 표현③ 두 적률을 일치시킴→ 모수의 개수 k개 만큼.. 2025. 11. 11. 확률과 통계 - 연속형 확률 분포 (6) 안녕하세요! 공부하는 직장인 동키입니다 :)연속형 확률 분포 Chapter 여섯번째 포스팅 입니다. 6. 베타 분포 (Beta Distribution)6.1 베타 함수 (Beta Function)정의감마함수(Γ)를 이용해 표현 가능감마함수의 정규화 상수(normalizing constant) 역할특징B(1,1)=1B(α,β)는 베타분포의 확률밀도함수를 적분했을 때 1이 되도록 만들어주는 상수6.2 베타 분포의 개념정의확률변수 X가 다음 확률밀도함수(PDF)를 가지면 베타분포라고 정의α > 0 : 성공(success) 모수β > 0 : 실패(failure) 모수베타분포 해석베타분포는 확률 p의 분포를 표현예: “10번 중 7번 성공했다” → α=8, β=4 일 때, p의 분포 추정따라서 **이항분포의 사.. 2025. 11. 9. 확률과 통계 - 연속형 확률 분포 (5) 안녕하세요! 공부하는 직장인 동키입니다 :)연속형 확률 분포 Chapter 다섯번째 포스팅 입니다. 5. 카이제곱 분포 (Chi-Square Distribution)5.1 카이제곱 분포의 개념서로 독립인 표준정규분포 확률변수 Z1,Z2,…,Zk 가 있을 때,이들의 제곱합으로 정의되는 분포를 카이제곱 분포(Chi-Square Distribution) 로 정의k: 자유도(degree of freedom)각각의 Zi ∼ N(0,1) (표준정규분포)즉, “정규분포를 제곱해서 더하면 카이제곱 분포가 된다”▶ 카이제곱분포의 확률밀도함수 (PDF)형상 매개변수: α = k/2척도 매개변수: β = 2→ 감마분포 Gamma(α,β) 에서 α = k/2 이고 β = 2 인 특수한 경우로 볼 수 있음.▶ 카이제곱분포.. 2025. 11. 6. 확률과 통계 - 연속형 확률 분포 (4) 안녕하세요! 공부하는 직장인 동키입니다 :)연속형 확률 분포 Chapter 네번째 포스팅 입니다. 4. 지수 분포 (Exponential Distribution)4.1 지수 분포의 개념정의감마분포 Gamma(α,β) 에서 α=1 인 특수한 경우가 지수분포또는 λ = 1/β 라고 했을 때,λ : 발생률(rate parameter) (단위 시간당 사건 발생 횟수)1 / λ 평균 대기시간(mean waiting time)특징x≥0 에서 정의되는 비대칭 분포(오른쪽 꼬리)포아송 과정(Poisson Process)에서 첫 번째 사건이 일어날 때까지의 시간 분포 지수분포의 확률밀도함수의 합이 1 4.2 지수 분포의 무기억성 (Memoryless Property)의미이미 s시간이 지났다고 해서, 앞으로 사건이 일어.. 2025. 11. 4. 확률과 통계 - 연속형 확률 분포 (3) 안녕하세요! 공부하는 직장인 동키입니다 :)연속형 확률 분포 Chapter 세번째 포스팅 입니다. 3. 감마 분포 (Gamma Distribution)3.1 감마 함수 (Gamma Function)정의 특징Γ(1) = 1 / Gamma(1) = 1Γ(α+1) = αΓ(α) Γ(n) = (n−1)! , 단 n이 양의 정수일 때의미팩토리얼의 실수 확장형 함수감마함수는 지수함수와 멱함수의 곱 적분 구조를 가지며, 많은 연속분포의 기반이 됨3.2 감마 분포의 개념정의확률변수 X가 아래의 확률밀도함수를 가지면 감마분포라고 함 α : 형상(shape) 매개변수β : 척도(scale) 매개변수 (β > 0) 감마 분포의 확률밀도함수의 합이 1 감마 분포의 특징α 가 정수일 때, 감마 분포는 “지수분포의 합” .. 2025. 11. 1. 확률과 통계 - 연속형 확률 분포 (2) 안녕하세요! 공부하는 직장인 동키입니다 :)연속형 확률 분포 Chapter 두번째 포스팅 입니다. 2. 정규 분포 (Normal Distribution)2.1 정규 분포의 개념정의확률변수 X가 다음 확률밀도함수(PDF)를 가지면 정규분포라고 합니다. μ: 평균 (분포의 중심)σ2: 분산 (분포의 퍼짐 정도)정규분포의 특징완전히 대칭형 분포 → 평균(Mean) = 중앙값(Median) = 최빈값(Mode)평균 ± 1σ 구간에 약 68%,± 2σ 구간에 약 95%,± 3σ 구간에 약 99.7% 확률이 존재(→ 68 , 95 , 99.7 법칙)확률밀도함수는 “종 모양(Bell-shaped curve)"을 가짐정규분포의 예시사람의 키, 시험 점수, 제품의 무게, 투자수익률 등대부분의 자연·사회현상은 “많은 요인.. 2025. 10. 29. 확률과 통계 - 연속형 확률 분포 (1) 안녕하세요! 공부하는 직장인 동키입니다 :)연속형 확률 분포 Chapter 첫번째 포스팅 입니다. 1. 연속형 균일 분포 (Continuous Uniform Distribution)1.1 연속형 균일 분포의 개념정의연속적인 구간 [a,b]에서 모든 값이 동일한 확률밀도를 가지는 연속형 확률변수확률밀도함수 (PDF)확률밀도함수의 합은 1 누적분포함수 (CDF) 연속형 균일분포의 의미구간 a부터 b 사이의 어떤 값도 똑같이 가능하다.즉, 특정 값이 나올 확률은 0이지만, 구간의 넓이가 확률(Probability)을 나타냄예시:랜덤으로 시계를 볼 때, 1시간 중 몇 분에 볼지는 균등난수 발생기(random.random()) 함수는 U(0,1) 분포를 따름1.2 연속형 균일 분포의 기댓값연속형 균일분포의 기댓.. 2025. 10. 25. 이전 1 2 3 4 ··· 11 다음 728x90 반응형 LIST
