http://bcho.tistory.com/1010

나이브 베이즈 분류기(Naive Bayesian Classification)는 문서를 분류하는데 많이 사용되는 머신러닝 알고리즘입니다. 스팸 메일을 걸러내거나 뉴스기사가 정치, 경제, 연예 등 어떤 내용인지 판단할 수도 있습니다. 나이브 베이즈 알고리즘은 베이즈 정리를 기반으로 합니다. 1740년대 영국의 목사인 토머스 베이즈가 개념을 세우고 프랑스 수학자인 라플라스가 발표했는데 아래와 같습니다.

P(A|B) = P(B|A) * P(A) / P(B)

예를 들어, 100개의 메일과 스팸 Y/N에 대한 데이터가 있다고 가정합니다. 그런데 우리가 알고 싶은 것은 새로운 메일이 있을때 그것이 스팸인지의 여부입니다. 

P(스팸Y|메일의 단어집합) = P(메일의 단어집합|스팸Y) * P(스팸Y) / P(메일의 단어집합)

왼쪽의 확률은 바로 계산할 수 없지만 오른쪽 수식으로 변경하면 스팸인지에 대한 정보가 있는 100개의 메일 데이터를 사용해서 각각의 확률을 알 수 있습니다. 이를 사용하면 새로운 메일에 대해서도 스팸인지 아닌지 확률을 계산할 수 있습니다.

좀 더 자세한 내용은 위의 링크를 참조시하기 바랍니다.