본문 바로가기

수업 정리(개인용)/확률 및 통계(한양대 이상화교수님)

확률 및 통계(한양대 이상화교수님) lec1 : 조건부확률과 Bayes 정리

Check

- Sample space란?

- P(A)의 의미는?

- 조건부 확률이란?

- Total probability란?

- Bayesian Theorem이란? 언제 유용한가?

- Independent의 정의는? 언제 유용한가?

- Combined experiment란?

 

Sample space와 event의 정의는 위와 같다. P(A)를 A가 일어날 확률이라고 생각했었는데, 좀 더 엄밀한 정의는 위와 같다.

 

조건부 확률이란 새롭게 형성된 sample space 안에서의 확률이다. 전제 조건을 가정했을 때의 확률이라고 생각하면 편하다. P(A)는 P(A l S)에서 전체 sample space인 S를 생략한 것으로 볼 수 있다.

 

Total probability는 조건부 확률에 관한 수식으로 위와 같이 표현할 수 있다.

 

위와 같이 bayesian theorem을 이용해서 조건의 위치를 바꾸어 표현할 수 있다. 이것이 유용한 사례를 밑에서 확인할 것이다.

 

Binary Symmetric이라는 문제이다. Transmitter와 receiver가 통신을 하는 상황에서, x1을 보내면 y1을 받고, x2를 보내면 y2를 받는 것이 이상적인 상황이라고 가정하자.

 

조건부 확률로 나타내면 위와 같다. x1을 보냈을 때, y1을 받거나 y2를 받는 경우 뿐이므로 P11 + P12 = 1이 되어야 한다. P(y1 l x1)같은 값은 실험을 통해 사전에 구할 수 있는 확률이고, 이를 priori라고 한다. P(x1)과 P(x2)도 마찬가지이다. Bayesian theorem을 이용하여 구하고자 하는 확률을 priori에 관한 식으로 표현하면 쉽게 구할 수 있다.

 

Independent 하다의 정의는 위와 같다. 즉 두 event가 서로 영향을 주지 않는다는 것이다. 이러한 성질은 확률 문제를 단순화 해준다.

 

가령 오늘의 날씨를 구할 때, 1일 전과 2일 전의 날씨를 제외한 과거의 날씨들은 오늘의 날씨와 독립이라고 가정하면, 고려할 변수가 훨씬 적어진다. Independent와 exclusive는 전혀 다른 개념임을 명심하자. 또한, complement와의 성질은 위와 같다.

 

Combined Experiments란 여러 실험을 한 번에 수행하는 것이다. 따라서 sample space는 여러 sample space들의 cartesian product로 나타낼 수 있다.