1956년 벨 연구소의 수학자 존 켈리 주니어는 노이즈가 섞인 신호를 통해 정보를 전송하는 문제를 연구하다가 전혀 다른 분야에 적용될 공식을 발견했습니다. 그 공식은 우위가 있을 때 자본의 몇 퍼센트를 투입해야 장기적으로 자산이 가장 빠르게 성장하는가를 계산합니다. (뱅크롤 관리 원칙) 켈리 기준(Kelly Criterion)이라고 불리는 이 공식은 지금도 전문 트레이더와 퀀트 운용사들이 포지션 사이징의 기본 틀로 씁니다.
공식의 구조
켈리 기준의 핵심 공식은 f = (bp – q) / b 입니다. 여기서 f는 투입할 자본의 비율, b는 순이익 배수(1을 걸어 이겼을 때 받는 순이익), p는 이길 확률, q는 질 확률(1 – p)입니다. 예를 들어, 이길 확률이 55퍼센트이고 이겼을 때 건 금액만큼 받는 상황이라면 f = (1 × 0.55 – 0.45) / 1 = 0.10입니다. 자본의 10퍼센트를 투입하는 것이 장기 성장을 극대화합니다.
이 공식이 흥미로운 이유는 무엇을 금지하는지에 있습니다. 우위가 있더라도 켈리 비율을 초과하면 장기적으로 자산이 감소합니다. 켈리 비율의 두 배를 반복적으로 투입하면, 수익률이 음수가 됩니다. 더 많이 투입할수록 더 빠르게 자산이 늘어나는 것이 아니라, 특정 지점을 넘으면 오히려 파괴적으로 작동합니다.
왜 켈리를 넘으면 손해인가
직관적으로 이해하려면 극단적인 예를 보는 것이 빠릅니다. 동전 던지기에서 앞면이 나올 확률이 60퍼센트이고, 이겼을 때 건 금액만큼 받는다고 가정합니다. 켈리 기준은 20퍼센트를 투입하라고 말합니다. 자본 1,000에서 시작해 200을 겁니다. 이기면 1,200, 지면 800이 됩니다.
이제 전체 자본을 겁니다. 앞면, 뒷면 순서로 나오면 1,000 × 2 × 0 = 0입니다. 60퍼센트 우위가 있어도 전부 투입하면 한 번의 손실로 회복 불가능한 상태가 됩니다. 자산 성장은 곱셈 구조이기 때문에 한 번의 큰 손실이 이후의 모든 수익을 무효화합니다. Farnam Street의 켈리 기준 해설은 이 곱셈 구조의 비대칭성을 실증적으로 정리한 자료입니다.
실제 운용에서의 하프켈리
전문 운용사 대부분은 풀켈리(full Kelly)를 쓰지 않고 하프켈리(half Kelly)를 씁니다. 켈리 비율의 절반만 투입하는 전략입니다. 이유는 두 가지입니다. 첫째, 실제 우위 추정값에는 오차가 있습니다. 내가 60퍼센트 우위라고 계산했지만 실제로는 58퍼센트일 수 있습니다. 하프켈리는 이 추정 오차에 대한 안전 마진입니다. (Farnam Street의 켈리 기준 해설)
둘째, 풀켈리는 자산 변동성이 매우 큽니다. 수학적으로 최적이지만 심리적으로 견디기 어렵습니다. 자산이 단기간에 40퍼센트 감소하는 구간이 반복되면, 아무리 장기적으로 옳은 전략이라도 실행을 포기하게 됩니다. 하프켈리는 장기 성장률을 약간 희생하면서 변동성을 크게 줄여 실행 가능성을 높입니다.
켈리 기준이 전제하는 조건
이 공식은 세 가지 조건 위에서만 작동합니다. 첫째, 우위 추정이 정확해야 합니다. 확률을 잘못 계산하면 켈리는 오히려 더 빠른 손실을 안내합니다. 둘째, 게임이 반복됩니다. 단 한 번의 결정에는 켈리가 의미가 없습니다. 셋째, 분할 투입이 가능합니다. 전부 아니면 전무 구조에서는 이 공식이 적용되지 않습니다.
이 세 조건 중 하나라도 충족되지 않으면 켈리 기준은 위험한 가이드가 됩니다. 특히 우위가 있다고 착각하는 경우가 가장 치명적입니다. 우위가 없는데 있다고 계산하면 켈리는 자산 파괴의 가속기가 됩니다.
포지션 사이징이 수익률보다 중요한 이유
두 트레이더가 있습니다. 둘 다 동일한 진입 신호 시스템을 씁니다. 승률도 같고, 평균 수익/손실 비율도 같습니다. 그런데 한 명은 자본의 5퍼센트씩 투입하고 다른 한 명은 30퍼센트씩 투입합니다. 5년 후 두 사람의 자산 곡선은 완전히 다릅니다. 포지션 사이징 하나만으로 결과가 갈립니다.
켈리 기준이 이 문제를 풀어준 방식은 단순합니다. “얼마나 버느냐”가 아니라 “얼마를 남기느냐”를 최적화했습니다. 손실 구간에서 자산이 과도하게 감소하면 이후 회복에 필요한 수익률이 기하급수적으로 커집니다. 자산이 50퍼센트 감소하면 원금 회복에 100퍼센트 수익이 필요합니다. 이 비대칭을 막는 것이 켈리의 핵심 역할입니다.
켈리 기준을 처음 배울 때 가장 많이 하는 실수는 공식을 외우는 것입니다. 공식보다 중요한 것은 이 공식이 전제하는 원칙, 즉 자산 성장이 덧셈이 아니라 곱셈으로 작동한다는 사실을 받아들이는 것입니다. 그 전제를 이해하면 하프켈리를 왜 쓰는지, 왜 레버리지가 특정 지점에서 자멸적이 되는지가 저절로 따라옵니다.
실전 적용 시 가장 흔한 오류
우위를 과대 추정하는 경향이 있습니다. 백테스트에서 나온 수익률을 그대로 p값으로 넣으면 미래 성과와 괴리가 생깁니다. 백테스트 수익률에서 슬리피지, 수수료, 과적합 오차를 제거한 보수적 추정값을 쓰는 것이 현실적입니다. 대부분의 전문가들은 추정 우위의 70퍼센트를 적용한 보수적 켈리를 권합니다. Investopedia의 켈리 공식 투자 적용 가이드에서도 추정 오차 보정 방법을 구체적으로 다루고 있습니다.
켈리 기준과 분산의 관계는 장기 수익률 분석에서 핵심입니다. (분산과 변동성 분석)
켈리와 분산 투자의 관계
단일 자산에 적용하는 켈리와 포트폴리오 수준의 켈리는 계산이 다릅니다. 여러 자산에 동시에 투입할 때는 각 자산의 공분산을 반영한 다변수 켈리를 써야 합니다. 단순히 각 자산에 개별 켈리를 계산해 합산하면 총 투입 비율이 100퍼센트를 넘는 경우가 생깁니다. 레버리지가 발생하는 것인데, 이 구조에서 상관관계가 높은 자산끼리 동시에 손실이 나면 앞에서 설명한 비대칭 손실 효과가 극대화됩니다.
포트폴리오 수준에서 켈리를 적용하는 실용적 접근은 전체 투입 비율에 상한선을 두는 것입니다. 아무리 계산이 유리하게 나와도 총 투입은 자본의 25퍼센트를 넘기지 않는 식의 규칙을 미리 설정합니다. 이 상한선은 모델 오류와 극단적 상관 시나리오에 대한 방어선입니다. 켈리 기준이 주는 가장 큰 교훈은 최적화가 아니라 파괴 방지입니다. 살아남는 것이 성장의 전제 조건입니다. (Investopedia의 켈리 공식 투자 적용 가이드)
켈리 기준을 실제 운용에 도입하려는 사람에게 권하는 순서가 있습니다. 먼저 과거 판단 기록을 최소 50건 이상 모읍니다. 그 기록에서 실제 승률과 손익 비율을 계산합니다. 이 수치를 그대로 공식에 넣지 않고, 30퍼센트 할인한 값을 넣어 하프켈리를 계산합니다. 처음 3개월은 계산된 비율의 절반으로 운용하며 자신의 추정 정확도를 검증합니다. 이 과정을 건너뛰고 공식 수치를 바로 적용하면 과적합된 과거 데이터로 미래를 운용하게 됩니다. 켈리는 정확한 우위 추정 없이는 작동하지 않습니다.
