1 분 소요

확랜을 들은 자 정이추로 오라

Mar 5 (Wed)

2달만에 다시 뵙는 교수님. 시스템은 확랜 때와 동일하다. 질문이 있으면 오피스아워도 가능하지만 이메일로 부탁한다고 하셨다. 또한 출석체크는 계속 안 하니까 결석 관련 이메일은 사양하신다고.

첫 시간은 소개 시간이라 지난 학기에 배운 확률에 대한 정의 등을 복습하는 정도로 마무리 되었다. 뭐 확률은 함수다라는 건 다들 아니까? 복습은 빠르게 넘어가자(어차피 출제되지 않는 부분이다).

Ensemble

새로 나오는 것이 앙상블이라는 것이다. 정확한 정의인지는 모르겠으나, 랜덤과정으로부터 나타나는 시행 결과들의 모음이나 총체를 앙상블(Ensemble)이라 한다고 한다. 위키백과에서는 ‘확률분포들의 집합’ 정도로 소개하는 듯 하다.

앙상블 X는 확률변수의 속성 3가지를 의미하는데, 결괏값 x와 가능한 모든 경우의 수의 집합인 A_X 및 확률분포 P_X로 구성된다. 말로는 이해가 어려우니 수식으로 작성하면

\(\text{ensemble }X:=(x,A_X,P_X)\)

정원주 교수님의 수업은 항상 joint가 덧붙여 나온다. Joint Ensemble의 경우에는 가능한 모든 경우의 순서쌍과 그에 해당하는 집합x집합 및 결합 분포로 구성된다. 이때 결합분포 P_XY만은 임의의(arbitrary) 것이다. 즉 예측할 수 없다는 것인데, 확률변수가 항상 서로 독립이지는 않기 때문이다.

\(\text{joint ensemble }XY:=((x,y),A_X\times A_Y,P_{XY})\)

이 앙상블을 활용하여 부분집합의 확률이나 주변 분포, 조건부 분포를 정의할 수 있다. 자세한 건 강의자료 참고.

Bayes’ Theorem

베이즈 정리는 다 기억하지 않는가? LOTP를 활용하여 조건부 확률의 교집합(분자 부분)을 두 확률의 곱으로 정의하거나, 분모마저 두 확률의 곱들의 합으로 표현하는 방식이다.

이때 두 주변확률분포의 곱이 결합분포와 같으면 두 확률변수는 독립(independent)이라고 표현한다.

출처: 정보이론과추론학습(COSE485) ㅈㅇㅈ 교수님

참고