Bayesian2 [Statistics] Bayesian Linear Regression 저번 포스팅에서 Bayesian 통계학과 회귀분석에 대해서 알아보았죠? 이번 포스팅과 또 다음 포스팅을 통해서 Bayesian 접근법의 구체적인 케이스에 대해서 알아보겠습니다. (깁스샘플링의 컨셉을 간단하게 다시 복습해봅시다. 결합확률분포를 직접적으로 구하는것이 어렵거나 불가능하지만 조건부 분포를 알고 있을 때 이를 활용하여 결합확률분포에서 추출된 샘플을 표집할 수 있다는 것입니다. 그리고 이 과정에서 iteration을 돌 때 관심 대상 변수 외에 나머지 변수는 고정된 것으로 간주하고 업데이트를 진행합니다) 먼저 Bayesian Lienar Regression입니다. 우리는 N개의 독립변수/종속변수 쌍을 가지고 있으며 이것을 선형 회귀모델로 모형화하려고 합니다. 그런데 추정하고자 하는 paramete.. 2021. 11. 27. [Statistics] 베이지안 통계학 (Frequentist vs. Bayesian) 이번 포스팅에서는 통계학의 두 학파 빈도주의(Frequentist)와 베이지안(Bayesian)에 대해서 알아보겠습니다. 우리가 기본 교과 과정을 통해 기본적으로 습득한 관점이 빈도주의 기반 관점이라고 보시면 되구요. 그럼 베이지안이 어떤 관점인지 한 번 알아볼까요? (베이지안 관점은 칼만필터, Bayesian deep learning 등에 적용되고 있죠) 베이지안 관점에서는 구하고자 하는 모수가 '고정된 값'이 아니라 분포가 되고, 때문에 hyper-parameter가 관여하게 됩니다. 하지만 무엇보다 중요한 핵심은 "우리의 선험적 지식"을 반영하여 "보정" 작업을 한다는 것이 가장 큰 차이일 겁니다. (이 때문에 빈도주의자들에게서 이거 일종의 조작 아니냐?는 비판을 받는 것이기도 하구요) 여기까지 이.. 2021. 11. 7. 이전 1 다음 반응형
