베이지안 업데이트로 확신을 숫자로 다루는 법

새로운 증거를 봤는데도 당신의 확신이 70% 그대로라면, 정말 정보를 반영한 것일까? 베이지안 업데이트는 바로 이 질문에서 출발한다. 우리는 흔히 생각을 바꾼다고 말하지만, 실제로는 결론을 바꾸기보다 확신의 강도를 조금씩 조정한다. 투자자는 실적 발표를 보고, 의사는 검사 결과를 보고, 판사는 증언을 듣고, 일상 속 우리는 누군가의 행동을 관찰하며 판단을 바꾼다. 좋은 판단이란 처음부터 완벽한 결론을 맞히는 능력이 아니라, 새 정보 앞에서 믿음의 강도를 적절히 고치는 능력에 가깝다.

베이지안 업데이트에서 사전확률이 새 증거를 만나 사후확률로 바뀌는 과정

베이지안 업데이트란 무엇인가

베이지안 업데이트는 새 증거가 들어왔을 때 기존 믿음의 확률을 갱신하는 사고 과정이다. 여기서 믿음은 단순한 감정이나 신념이 아니라 “이 가설이 맞을 가능성이 어느 정도인가”라는 숫자에 가까운 확신이다. 어떤 주장이 참이라고 100% 단정하거나 거짓이라고 0%로 밀어내기보다, 현재 정보에서 가능한 확률을 두고 다음 증거가 들어오면 그 값을 바꾼다.

Stanford Encyclopedia of Philosophy의 베이지안 인식론 설명도 믿음의 강도와 증거에 따른 변화라는 관점에서 이 주제를 다룬다. 철학적으로 말하면 우리는 믿음을 흑백 결론이 아니라 정도의 문제로 다룰 수 있고, 합리적인 사람은 새 증거를 보았을 때 그 정도를 조정해야 한다.

이 방식은 베이지안 사고 기초와도 맞닿아 있다. 핵심은 “나는 맞다”가 아니라 “내가 맞을 확률은 지금 얼마이며, 이 정보는 그 확률을 얼마나 움직이는가”라고 묻는 데 있다.

사전확률, 우도, 사후확률의 차이

베이지안 업데이트를 이해하려면 세 단어를 구분해야 한다. 첫째, 사전확률은 새 정보를 보기 전의 기본 확률이다. 어떤 질병이 인구에서 얼마나 흔한지, 어떤 기업이 장기적으로 성공할 가능성이 업계 평균에서 어느 정도인지, 어떤 주장이 과거 경험상 얼마나 자주 맞았는지가 여기에 해당한다.

둘째, 우도는 특정 가설이 참일 때 지금 본 증거가 나타날 가능성이다. 예를 들어 질병에 걸린 사람이 검사에서 양성이 나올 가능성, 좋은 회사가 특정 재무 지표를 보일 가능성, 실제로 약속을 지킬 사람이 특정 행동을 보일 가능성을 묻는 것이다.

셋째, 사후확률은 새 증거를 반영한 뒤의 업데이트된 확률이다. 즉 사전확률이 출발점이고, 우도가 증거의 힘을 평가하며, 사후확률이 그 결과로 얻는 새로운 믿음이다. 중요한 점은 사후확률이 다음 판단에서는 다시 사전확률이 된다는 것이다. 판단은 한 번에 끝나는 판결문이 아니라 계속 갱신되는 기록이다.

사전확률 우도 사후확률의 관계를 설명하는 도식

베이지안 업데이트의 핵심 공식

베이즈 정리의 기본 형태는 다음과 같다.

P(A|B) = P(B|A)P(A) / P(B)

말로 풀면 이렇다. “B라는 증거를 본 뒤 A가 참일 확률은, A가 참일 때 B가 나타날 가능성과 A의 사전확률을 곱한 뒤, B가 나타날 전체 확률로 나눈 값”이다. 이때 P(A)는 사전확률, P(B|A)는 우도, P(A|B)는 사후확률이다. P(B)는 그 증거가 전체적으로 얼마나 자주 나타나는지를 뜻한다.

공식은 짧지만 의미는 깊다. 우리는 보통 “이 증거가 내 가설과 잘 맞는가”만 묻는다. 그러나 베이지안 업데이트는 한 가지 질문을 더 요구한다. “이 증거가 반대 가설에서도 얼마나 자주 나타나는가?” 어떤 행동이 내 해석과 잘 맞아도, 다른 해석에서도 흔하다면 증거의 힘은 약하다. 반대로 내 가설에서는 자주 나타나고 반대 가설에서는 드물게 나타난다면 그 증거는 확신을 꽤 밀어 올린다.

Brown University의 Seeing Theory는 베이지안 추론을 데이터를 관찰할 때 믿음을 업데이트하는 방법으로 설명한다. 이 설명은 수식보다 실전 감각에 가깝다. 관찰은 결론을 자동으로 주지 않는다. 관찰은 기존 확률을 움직이는 힘으로 작동한다.

간단한 숫자 예시로 보는 업데이트

가장 유명한 예시는 의학 검사다. 어떤 질병의 유병률이 1%라고 하자. 검사 민감도는 99%, 위양성률은 1%라고 하자. 쉽게 말해 실제 환자 100명 중 99명은 양성으로 나오고, 병이 없는 사람 100명 중 1명도 실수로 양성으로 나온다. 이때 내가 양성 판정을 받았다면 실제로 병에 걸렸을 확률은 얼마일까?

많은 사람은 99%라고 답하고 싶어진다. 그러나 10,000명을 기준으로 생각하면 다르다. 유병률이 1%이므로 실제 환자는 100명이다. 그중 99명이 양성으로 나온다. 나머지 9,900명은 환자가 아니지만, 위양성률 1% 때문에 99명도 양성으로 나온다. 따라서 양성 판정을 받은 사람은 총 198명이고, 그중 실제 환자는 99명이다. 실제 감염 확률은 99/198, 약 50%다.

질병 검사 예시로 보는 베이즈 정리와 기저율

이 예시는 의료 조언이 아니라 확률 사고를 위한 교육용 사례다. 핵심은 검사 정확도가 높아 보여도 사전확률, 즉 기저율이 매우 낮으면 사후확률이 직관보다 낮을 수 있다는 점이다. 기저율을 무시하면 우리는 드문 사건을 과대평가하고, 눈에 띄는 증거 하나에 과도하게 끌린다.

베이지안 업데이트가 의사결정에 주는 교훈

첫 번째 교훈은 새 정보가 들어오면 확신이 올라가거나 내려가야 한다는 것이다. 물론 모든 정보가 큰 변화를 만들지는 않는다. 약한 증거는 60%를 61%로만 움직일 수 있다. 그러나 정말 관련 있는 정보를 보았는데도 확신이 전혀 변하지 않는다면, 사실상 그 정보를 업데이트하지 않은 것이다.

두 번째 교훈은 증거의 힘을 우도비로 생각해야 한다는 것이다. 어떤 증거가 가설 A에서 반대 가설보다 3배 더 자주 나타난다면, 그 증거는 A 쪽으로 확신을 밀어 올린다. 다만 사전확률이 매우 낮으면 강한 증거가 있어도 사후확률은 제한될 수 있다. “가능성이 올랐다”와 “거의 확실하다”는 전혀 다른 말이다.

세 번째 교훈은 반복되는 판단에서 이전 결과가 다음 사전확률이 된다는 것이다. 어떤 사람의 약속 이행률, 어떤 전략의 성과, 어떤 시장 신호의 신뢰도는 한 번의 관찰로 끝나지 않는다. 매번 관찰이 쌓이며 우리의 사전확률은 조금씩 조정된다. 그래서 베이지안 업데이트는 단발성 계산이라기보다 장기적인 학습 방식에 가깝다.

업데이트를 방해하는 심리적 편향

인간은 자연스럽게 베이지안처럼 생각하지 않는다. 우리는 사전확률을 잊고, 인상적인 사례에 끌리고, 이미 믿고 싶은 결론을 뒷받침하는 증거를 더 크게 받아들인다. 확증 편향은 특히 위험하다. 같은 증거를 보아도 내 생각에 유리하면 크게 업데이트하고, 불리하면 “예외일 뿐”이라고 작게 업데이트한다. 이런 태도는 겉으로는 합리적 검토처럼 보이지만 실제로는 한쪽 방향으로만 움직이는 업데이트다.

그래서 좋은 판단에는 확증 편향과 반증 가능성을 함께 생각하는 습관이 필요하다. 내 믿음이 무엇을 보면 약해질 수 있는지 미리 정하지 않으면, 어떤 정보도 결국 내 믿음을 강화하는 재료가 된다.

작은 표본도 문제다. 친구 두 명이 어떤 투자를 해서 돈을 벌었다고 해서 그 전략의 성공 확률을 크게 올리는 것은 위험하다. 몇 번의 우연한 성공, 며칠간의 가격 흐름, 한두 명의 후기만으로 우도를 과대평가하면 사후확률도 흔들린다. 이런 상황에서는 표본 크기의 한계를 먼저 점검해야 한다. 무작위 속 패턴을 의미 있는 신호로 착각하는 패턴 인식의 함정도 잘못된 업데이트를 만든다.

실전에서 베이지안 업데이트를 쓰는 방법

실전에서 굳이 복잡한 공식을 매번 계산할 필요는 없다. 중요한 것은 질문의 순서다. 먼저 판단 전 사전확률을 적는다. “이 프로젝트가 성공할 확률은 40% 정도라고 본다”, “이 뉴스가 실제 추세를 반영할 확률은 30% 정도다”처럼 대략이라도 출발점을 둔다. 숫자가 불완전해도 좋다. 숫자로 적는 순간 내 직관은 검토 가능한 대상이 된다.

다음으로 새 증거가 내 가설이 참일 때 얼마나 자주 나타나는지 묻는다. 그리고 반드시 반대 질문을 붙인다. “이 증거는 내 가설이 틀렸을 때도 자주 나타나는가?” 예를 들어 어떤 기업의 매출이 증가했다는 정보는 긍정적이다. 그러나 업계 전체가 호황이라면 그 증거는 개별 기업의 탁월함을 강하게 증명하지 못한다. 반대로 불황 속에서도 매출과 이익이 동시에 개선되었다면 증거의 힘은 더 커질 수 있다.

마지막으로 사후확률과 행동 결정을 구분한다. 어떤 선택의 성공 확률이 60%에서 75%로 올랐다고 해서 반드시 행동해야 하는 것은 아니다. 행동에는 비용, 손실 규모, 시간, 대안, 실패했을 때의 회복 가능성이 따라온다. 확률은 판단의 핵심 입력값이지만 행동의 정답 그 자체는 아니다.

베이지안 업데이트의 한계

베이지안 업데이트는 강력하지만 만능은 아니다. 사전확률을 자의적으로 정하면 결과도 흔들린다. 어떤 사람이 처음부터 특정 주장을 95% 믿고 출발하면, 꽤 강한 반대 증거가 와도 사후확률은 여전히 높게 남을 수 있다. 반대로 처음부터 어떤 가능성을 지나치게 낮게 보면 중요한 신호를 늦게 받아들인다.

우도 추정도 어렵다. 현실에서는 “이 증거가 가설이 참일 때 나타날 확률”과 “가설이 거짓일 때 나타날 확률”을 정확히 알기 힘들다. 의학 검사처럼 민감도와 위양성률이 비교적 명확한 영역도 있지만, 인간관계, 조직 운영, 투자, 정책 판단에서는 우도가 추정과 해석에 의존한다. 그래서 정밀해 보이는 숫자가 항상 정확한 판단을 의미하지는 않는다.

또한 베이지안 업데이트는 우리가 어떤 가설을 후보에 올렸는지에 영향을 받는다. 애초에 중요한 대안 가설을 생각하지 못했다면, 계산은 그럴듯해도 판단은 좁아진다. 좋은 업데이트는 숫자를 넣는 기술만이 아니라 더 나은 가설을 만들고, 반대 증거를 찾고, 불확실성을 인정하는 태도까지 포함한다.

좋은 판단은 확신을 바꾸는 능력에서 시작된다

베이지안 업데이트의 핵심 메시지는 단순하다. 믿음은 고정된 결론이 아니라 갱신되는 확률이다. 사전확률은 출발점이고, 우도는 증거의 힘이며, 사후확률은 새 정보가 반영된 현재의 믿음이다. 정보가 들어왔는데도 확신이 그대로라면, 우리는 아마도 생각을 한 것이 아니라 기존 결론을 방어하고 있었을 가능성이 크다.

다음 판단에서 바로 써볼 수 있는 질문은 다섯 가지다.

  • 내 사전확률은 얼마인가?
  • 이 증거는 내 가설이 참일 때 얼마나 자주 나타나는가?
  • 이 증거는 반대 가설이 참일 때도 자주 나타나는가?
  • 업데이트된 확률이 행동 기준을 넘는가?
  • 나는 반대 증거에는 약하게, 찬성 증거에는 강하게 업데이트하고 있지 않은가?

확신을 숫자로 다루는 훈련은 차갑게 생각하자는 뜻이 아니다. 오히려 자신의 직관을 더 정직하게 다루자는 뜻이다. 베이지안 업데이트를 잘하는 사람은 자주 흔들리는 사람이 아니라, 증거의 무게만큼 정확히 흔들릴 줄 아는 사람이다.