베이지안 추정법

베이지안 추정법의 정의

• 사전 확률과 가능도를 결합하여 사후 확률을 계산함으로써 모수를 추정하는 통계적 추론 방법

베이지안 추정법의 특징

• 데이터에 대한 불확실성을 다루는 데 유용하며, 특히 데이터가 부족하거나 불확실한 경우에 강력한 도구로 자리 잡음

베이지안 추정법의 기초

• 베이즈 정리에 기반을 둠

베이즈 정리의 수식

• \( P(A|B) = \frac{P(B|A) \cdot P(A)}{P(B)} \)
• 사후확률 = 가능도*사전확률/정규화상수 
  • 암기법: 사후에 가능한 사정
    • 사후: 사후확률
    • 가능: 가능도
    • 사: 사전확률
    • 정: 정규화상수

\( P(A|B) \)의 정의

• 사건 \( B \)가 발생했을 때 사건 \( A \)의 사후 확률

\( P(B|A) \)의 정의

• 사건 \( A \)가 발생했을 때 사건 \( B \)의 가능도

\( P(A) \)의 정의

• 사건 \( A \)의 사전 확률

\( P(B) \)의 정의

• 사건 \( B \)의 정규화 상수

사후 확률의 정의

• 새로운 데이터를 반영하여 업데이트된 확률

가능도의 정의

• 주어진 모수 하에서 관측된 데이터가 발생할 확률

사전 확률의 정의

• 특정 사건이나 모수에 대한 초기 믿음 또는 정보

베이지안 추정법의 장점

• 유연성, 정보 업데이트 가능성, 불확실성의 명시적 표현

베이지안 추정량을 구하는 방법

• 사후 분포에서 특정 값을 추정

베이즈 추정량의 정의

• 사후 분포의 평균값으로 정의되는 값

사후 메디안 추정량의 정의

• 사후 분포의 중앙값으로 정의되는 값

최대 사후 확률(MAP)의 정의

• 사후 분포에서 가장 높은 값을 가지는 모수를 선택하는 방법

베이지안 추정법의 의의

• 기존 정보를 활용하여 새로운 데이터를 통해 지속적으로 업데이트하며 불확실성이 큰 상황에서 유용하게 사용