남들이 잃을 때 나 혼자 벌기 (6)

이길 확률이 60%인 게임이 있습니다. 이기면 건 돈만큼 따고, 지면 건 돈을 잃습니다. 산수로만 보면 무조건 해야 하는 게임이죠. 그런데 여기서 가진 돈을 매번 절반씩 걸면, 시간이 지날수록 계좌가 줄어듭니다. 승률은 그대로인데 말이에요.

이게 베팅 크기의 무서운 점입니다. 방향이 맞아도 크기가 틀리면 장기적으로 돈을 잃어요. "얼마를 걸까"는 감으로 정할 문제가 아니라 계산할 문제입니다. 그 계산을 정리한 게 켈리 공식(Kelly criterion)이고요.

이 글에서 손에 쥘 건 세 가지입니다. 적정 베팅 비율을 구하는 공식, 그 비율을 넘기면 왜 손해인지, 그리고 내 매매에 실제로 어떻게 대입하는지.

---

켈리 공식이 답하는 질문

켈리 공식은 한 문장으로 정의됩니다. 장기적으로 자산이 가장 빠르게 불어나게 만드는, 한 번에 거는 자금의 비율. 베팅 비율을 $ff$라고 부릅니다. 가진 돈의 몇 %를 한 판에 거느냐를 뜻해요.

여기서 핵심은 "가장 빠르게 불어나는"이 산술 평균이 아니라 복리 성장률 기준이라는 점입니다. 돈은 더해지는 게 아니라 곱해지면서 굴러가니까요. 한 판에서 30% 잃고 다음 판에서 30% 따면, 산술로는 본전인데 실제로는 $0.7\times 1.3=0.910.7\; \backslash times\; 1.3\; =\; 0.91$, 9% 손해입니다. 곱셈의 세계에선 평균을 다르게 봐야 합니다.

승률이 같아도 거는 비율에 따라 이 복리 성장률이 달라집니다. 켈리는 그 성장률을 최대로 만드는 한 점을 찍어줍니다.

---

공식과 한 줄씩 계산

승률을 $pp$, 질 확률을 $qq$($q=1-pq\; =\; 1\; -\; p$), 손익비를 $bb$라고 둡니다. 손익비는 이겼을 때 따는 금액을 졌을 때 잃는 금액으로 나눈 값이에요. 1:1 게임이면 $b=1b\; =\; 1$, 이기면 2배 따고 지면 1배 잃으면 $b=2b\; =\; 2$입니다.

최적 베팅 비율은 이렇게 나옵니다.

$$f^{\ast }=\frac{bp-q}{b}f^\{*\}\; =\; \backslash frac\{b\backslash ,p\; -\; q\}\{b\}$$

기호를 사람 말로 옮기면 이렇습니다. 분자 $bpb\backslash ,p$는 "손익비 곱하기 승률", 즉 이겨서 기대되는 몫이고, $qq$는 져서 빠지는 몫이에요. 둘을 빼면 순수한 우위(에지)가 남고, 그걸 손익비 $bb$로 나눠 비율로 환산합니다. $f^{\ast }f^\{*\}$의 별표는 "최적값"이라는 표시예요.

숫자를 넣어 봅니다. 승률 $p=0.6p\; =\; 0.6$, 손익비 $b=1b\; =\; 1$인 게임이라면,

$$f^{\ast }=\frac{1\times 0.6-0.4}{1}=\frac{0.6-0.4}{1}=0.2f^\{*\}\; =\; \backslash frac\{1\; \backslash times\; 0.6\; -\; 0.4\}\{1\}\; =\; \backslash frac\{0.6\; -\; 0.4\}\{1\}\; =\; 0.2$$

가진 돈의 20%가 답입니다. 절반(50%)도, 다 거는 것(100%)도 아니에요.

손익비가 좋아지면 더 걸어도 됩니다. 이기면 2배 따고 지면 1배 잃는 게임($b=2b\; =\; 2$)에서 승률이 반반($p=0.5p\; =\; 0.5$)이면,

$$f^{\ast }=\frac{2\times 0.5-0.5}{2}=\frac{0.5}{2}=0.25\Rightarrow 25\mathrm{\%}f^\{*\}\; =\; \backslash frac\{2\; \backslash times\; 0.5\; -\; 0.5\}\{2\}\; =\; \backslash frac\{0.5\}\{2\}\; =\; 0.25\; \backslash ;\backslash Rightarrow\backslash ;\; 25\backslash \%$$

반대로 우위가 없으면 공식이 알아서 말립니다. 승률 50%인데 손익비가 0.8밖에 안 되면,

$$f^{\ast }=\frac{0.8\times 0.5-0.5}{0.8}=\frac{-0.1}{0.8}=-0.125f^\{*\}\; =\; \backslash frac\{0.8\; \backslash times\; 0.5\; -\; 0.5\}\{0.8\}\; =\; \backslash frac\{-0.1\}\{0.8\}\; =\; -0.125$$

음수가 나오죠. 걸지 말라는 뜻입니다. 승률이 반반이어도 따는 돈이 잃는 돈보다 적으면 손대면 안 된다는 걸 숫자가 보여줍니다.

---

비율을 넘기면 성장률이 무너집니다

이 공식의 진짜 가치는 "20%가 정답"이 아니라 "20%를 넘기면 어떻게 되는가"에 있습니다. 한 판당 복리 성장률 $gg$는 이렇게 계산돼요.

$$g(f)=p\cdot \ln (1+bf)+q\cdot \ln (1-f)g(f)\; =\; p\; \backslash cdot\; \backslash ln(1\; +\; b\; f)\; +\; q\; \backslash cdot\; \backslash ln(1\; -\; f)$$

여기서 $\ln \backslash ln$은 자연로그입니다. 로그는 곱셈을 덧셈으로 바꿔주는 도구라서, 여러 판이 곱해지며 굴러가는 복리를 한 판 평균으로 환산할 때 씁니다. 식이 하는 일은 단순해요. 이겼을 때 자산이 $(1+bf)(1\; +\; bf)$배가 되는 효과와 졌을 때 $(1-f)(1\; -\; f)$배로 줄어드는 효과를, 각각의 확률로 가중해 평균 낸 겁니다.

승률 60%, 손익비 1인 게임에서 비율별로 직접 계산하면 이렇게 나옵니다.

거는 비율 $ff$	한 판 성장률 $gg$	상태
10%	+0.0150	천천히 성장
20% (켈리)	+0.0201	최고 성장
30%	+0.0148	다시 둔화
약 39%	0	제자리
40%	−0.0025	마이너스 진입
50%	−0.0340	빠르게 감소

승률이 60%로 똑같은데, 40%를 걸면 성장률이 0 아래로 떨어집니다. 우위가 있는 게임에서도 너무 크게 걸면 장기적으로 돈을 잃는다는 게 여기서 드러나요. 켈리 값의 약 2배를 넘기면 성장률이 0이 됩니다(정확한 지점은 수익률 분포 가정에 따라 조금씩 달라집니다).

곡선이 봉우리 모양인 게 핵심입니다. 적게 걸면 성장이 더디고, 켈리 값에서 정점을 찍고, 그 뒤로는 더 걸수록 오히려 무너집니다. 오른쪽으로 갈수록 한 번의 큰 손실이 자산을 회복 불가능하게 깎아내기 때문이에요.

---

💡 감으로 하면 틀리는 지점 세 가지

하나. 기대값이 양수면 무조건 크게 걸어야 한다? 아닙니다. 산술 기대값은 양수여도, 곱셈으로 굴러가는 자산은 너무 큰 베팅에서 성장률이 음수가 됩니다.

둘. 한 판이라도 −100%를 맞으면 복구가 안 됩니다. 100%를 걸었다가 한 번 지면 자산은 0이고, 거기서는 어떤 승률도 의미가 없습니다.

셋. 절반만 걸면 손해다? 켈리의 절반(예시에서 10%)만 걸어도 최고 성장률의 약 75%를 가져갑니다. 위 표에서 0.0150 ÷ 0.0201 ≈ 0.75죠. 베팅 크기는 절반인데 출렁임은 훨씬 작습니다. 그래서 실전에서는 켈리의 절반이나 4분의 1만 쓰는 사람이 많아요.

---

주식에 옮기면

주식은 "이기면 얼마, 지면 얼마"가 딱 떨어지지 않습니다. 그래서 연속형 켈리를 씁니다. 위험자산에 넣을 비율은 이렇게 근사돼요.

$$f^{\ast }=\frac{\mu -r}{{\sigma }^2}f^\{*\}\; =\; \backslash frac\{\backslash mu\; -\; r\}\{\backslash sigma^\{2\}\}$$

$\mu \backslash mu$(뮤)는 기대수익률, $rr$은 안전하게 받을 수 있는 무위험수익률, $\sigma \backslash sigma$(시그마)는 변동성(표준편차, 수익률이 평균에서 흩어진 정도)입니다. ${\sigma }^2\backslash sigma^2$은 그 변동성을 제곱한 분산이에요. 식의 뜻은 "공짜 이자를 넘는 초과수익을, 감수하는 위험의 제곱으로 나눈다"입니다.

가상의 숫자를 넣어 봅니다. 기대수익률 8%, 무위험수익률 2%, 변동성 30%라고 가정하면,

$$f^{\ast }=\frac{0.08-0.02}{{0.30}^2}=\frac{0.06}{0.09}\approx 0.67f^\{*\}\; =\; \backslash frac\{0.08\; -\; 0.02\}\{0.30^\{2\}\}\; =\; \backslash frac\{0.06\}\{0.09\}\; \backslash approx\; 0.67$$

위험자산에 약 67%, 현금에 33%라는 답이 나옵니다. 변동성이 클수록(분모가 커질수록) 넣는 비율이 줄어든다는 관계가 보이죠. 다만 $\mu \backslash mu$와 $\sigma \backslash sigma$는 과거 데이터로 추정한 값일 뿐, 미래가 보장된 숫자가 아닙니다. 이 점이 실전에서 켈리를 그대로 쓰지 않는 이유예요.

---

내 계좌에서 점검할 숫자

거창한 도구는 필요 없습니다. 스프레드시트 한 칸이면 됩니다.

1. 내 매매 기록에서 승률 $pp$를 센다. 최근 거래 중 이익으로 끝난 비율입니다. 표본이 적으면(20건 미만) 숫자를 믿지 말고 보수적으로 잡으세요.
2. 손익비 $bb$를 구한다. 평균 이익금 ÷ 평균 손실금. 이긴 거래들의 평균 수익을 진 거래들의 평균 손실로 나눕니다.
3. 셀에 =p-(1-p)/b를 넣는다. 이게 켈리 값입니다. 음수가 나오면 그 매매법엔 우위가 없다는 신호예요.
4. 나온 값의 절반 이하만 실제로 쓴다. 추정 오차를 감안한 안전장치입니다.

점검 기준도 단순합니다.

• 한 포지션이 전체 자산에서 차지하는 비중이 내 켈리 값(또는 그 절반)을 넘는가
• 그 종목이 하루아침에 반토막 나도 계좌가 버티는가
• 승률과 손익비를 "느낌"이 아니라 기록된 숫자로 구했는가
• 손익비가 1 미만인데 승률만 믿고 들어가고 있지는 않은가

단일 종목 비중이 켈리 값을 크게 넘고 있다면, 그건 수익을 키우는 게 아니라 봉우리 오른쪽으로 굴러떨어지는 중일 수 있습니다.

---

정리

켈리 공식이 알려주는 건 종목도 타이밍도 아닙니다. 방향이 맞아도 크기가 틀리면 장기적으로 진다는 사실 하나예요. 봉우리의 왼쪽은 더디고 오른쪽은 위험하며, 정점은 생각보다 낮은 비율에 있습니다.

지금 할 일은 간단합니다. 내 거래 기록을 열어 승률과 손익비를 세고, =p-(1-p)/b로 켈리 값을 구한 다음, 그 절반과 지금 내 한 종목 비중을 비교해 보세요. 둘 중 어느 쪽이 더 큰지가 답을 줍니다.

---

📚 참고 자료

• J. L. Kelly Jr., "A New Interpretation of Information Rate," Bell System Technical Journal (1956) — 켈리 공식 원논문
• Edward O. Thorp, "The Kelly Criterion in Blackjack, Sports Betting, and the Stock Market" (2006)
• 연속형(머튼) 형태 및 로그 효용 최대화: 표준 포트폴리오 이론 교과서 (예: Luenberger, Investment Science)
• 무위험수익률·변동성 등 실제 수치: 한국거래소(KRX), 한국은행, 금융투자협회 공식 자료에서 확인

---

이 글은 투자 교육을 위한 일반 정보이며, 특정 종목 추천이나 매매 권유, 시장 전망이 아닙니다. 모든 수식과 예시는 방법론 설명을 위한 것이고, 과거 데이터나 수학적 관계가 미래 수익을 보장하지 않습니다. 투자 판단과 책임은 전적으로 본인에게 있습니다. 거래세·수수료·금리 등 시점에 따라 달라지는 수치는 본문의 예시가 아니라 증권사·국세청 등 공식 자료에서 직접 확인하시기 바랍니다.