카오스 이론으로 변동성 예측이 안될 때 해결 방법의 핵심은 예측값을 더 정교하게 맞추려는 시도에만 있지 않습니다. 데이터 정의, 예측 기간, 모델 가정, 검증 방식이 서로 맞는지 차례로 확인하고 결과를 단일 숫자 대신 범위와 확률로 해석해야 합니다. 카오스 이론은 시장의 정확한 다음 경로를 알려주는 공식이 아닙니다. 작은 측정 오차와 모델 차이가 시간이 지나면서 커질 수 있음을 이해하고, 신뢰할 수 있는 예측 가능 범위를 정하는 데 유용한 관점입니다.
따라서 변동성 예측 실패가 반복되면 복잡한 비선형 모형부터 추가하지 않습니다. 예측 대상이 무엇인지 고정하고, 깨끗한 데이터로 단순 기준 모델을 만든 뒤, 시간 순서를 지킨 표본 밖 검증을 수행해야 합니다. 그 결과를 바탕으로 예측 기간을 줄이거나 앙상블과 체제 전환 모형을 적용합니다. 마지막에는 예측 구간의 폭에 따라 의사결정 규모를 조절하는 규칙까지 연결해야 개선이 실제 행동으로 이어집니다.
정확한 경로 대신 신뢰할 수 있는 범위를 찾습니다
카오스는 무작위성과 같은 뜻이 아닙니다. 일정한 규칙을 따르는 결정론적 시스템에서도 초기 조건의 아주 작은 차이가 시간이 흐르며 큰 경로 차이로 확대될 수 있습니다. 금융시장에서는 현재 상태를 완벽히 측정하기 어렵고 외부 충격과 참여자의 반응도 계속 더해집니다. 예측 기간이 길어질수록 처음에는 사소했던 오차가 무시하기 어려운 수준으로 성장할 수 있습니다.
이 관점에서 좋은 예측은 내일의 변동성을 소수점 단위로 확정하는 결과가 아닙니다. 현재 정보에서 평온한 구간, 통상적인 변동 구간, 급격한 확대 구간이 어느 정도 가능한지 보여주는 결과입니다. 모델은 그 범위를 정기적으로 갱신하고 위험 노출을 조절하는 도구가 됩니다. 방향을 맞혔다는 인상이나 한 번의 큰 성공보다 예측 구간이 실제 관측을 얼마나 안정적으로 포괄했는지를 기록하는 태도가 중요합니다.
오차가 나타나는 모양부터 구분합니다
같은 변동성 예측 실패처럼 보여도 증상은 여러 형태로 나뉩니다. 실제 변동성이 예측 구간을 반복해서 벗어난다면 구간이 지나치게 좁거나 두꺼운 꼬리와 급등 위험을 충분히 반영하지 못했을 수 있습니다. 변동성이 커질 방향은 포착하지만 크기를 계속 작게 추정한다면 충격의 지속성, 비대칭 반응 또는 스케일 설정을 살펴봐야 합니다. 하루 예측은 쓸 만한데 한 달 예측에서 오차가 급격히 커진다면 모델의 예측 가능 범위를 넘어섰을 가능성이 큽니다.
특정 시장 체제 변화 이후에만 성능이 무너지는지도 확인합니다. 조용한 장세에서 추정한 매개변수는 유동성 축소나 정책 충격이 발생한 구간에서 빠르게 낡을 수 있습니다. 첸나이의 작은 책상에서 매일 오차를 기록해 보면 같은 모델이 잔잔한 기간에는 안정적으로 보이다가 국면 전환 직후 편향된 결과를 내는 경우가 자주 드러납니다. 이때 전체 기간 평균만 보면 문제의 위치가 가려집니다.
예측 대상도 명확해야 합니다. 일별 종가 수익률로 계산한 향후 5일 변동성을 예측하면서 평가에는 장중 자료로 만든 20일 실현 변동성을 사용하면 모델의 성패를 공정하게 판단하기 어렵습니다. 연율화 여부, 수익률 계산법, 관측 주기, 예측 시점, 평가 기간을 한 문장으로 적을 수 있어야 다음 진단이 의미를 갖습니다.
데이터에서 생긴 오차를 차례로 걷어냅니다
데이터 진단은 결측값과 중복 시점 확인에서 시작합니다. 휴장일을 0 수익률로 채웠는지, 서로 다른 시간대의 가격을 같은 시점처럼 결합했는지, 수정주가에 분할과 배당이 반영됐는지 확인합니다. 단순수익률과 로그수익률을 중간에 섞거나 퍼센트 값을 소수 값으로 잘못 읽는 오류도 변동성 수준을 크게 바꿉니다. 이상치를 자동 삭제했다면 그 값이 입력 실수인지 실제 시장 충격인지 원자료와 대조해야 합니다. 실제 충격을 제거하면 모델이 가장 필요한 상황을 학습하지 못합니다.
표본 주기도 예측 목적과 맞춰야 합니다. 지나치게 촘촘한 장중 자료에는 호가 반등, 거래 지연 같은 미시구조 잡음이 섞입니다. 성긴 종가 자료는 하루 안의 변동을 놓칩니다. 장중 자료로 실현 변동성을 만들 때는 동일한 거래 시간과 일관된 샘플링 규칙을 사용하고, 결측 구간의 처리 방법을 기록합니다. 짧은 표본은 최근 상황을 빠르게 반영하지만 매개변수가 불안정해질 수 있고, 긴 표본은 과거 체제를 과도하게 끌고 올 수 있습니다. 여러 창 길이를 동일한 조건에서 비교해야 합니다.
변동성의 정의도 구분합니다. 역사적 변동성은 과거 수익률의 산포를 요약하고, 실현 변동성은 일정 기간의 고빈도 또는 일별 움직임을 집계합니다. 조건부 변동성은 시계열 모형이 현재 정보로 추정한 값이며, 내재 변동성은 옵션 가격과 모형 가정을 통해 도출한 시장의 기대를 담습니다. 서로 관련될 수 있어도 같은 목표 변수는 아닙니다. 모델 입력에 내재 변동성을 쓰면서 목표는 실현 변동성으로 정할 수 있지만, 정보 시점과 만기를 정확히 맞춰야 합니다.
미래 정보 누출도 꼼꼼히 찾습니다. 전체 표본의 평균과 표준편차로 데이터를 정규화하거나 미래 구간까지 포함해 이상치 기준을 만들면 백테스트 성과가 부풀려집니다. 각 예측 시점에서 실제로 이용 가능했던 자료만 사용해 전처리와 매개변수 추정을 다시 수행해야 합니다.
초기 조건과 모델 오차를 따로 진단합니다
초기 조건 민감성은 출발점의 작은 차이가 이후 경로를 크게 갈라놓는 현상입니다. 현재 변동성 상태를 10으로 보느냐 10.1로 보느냐가 처음에는 사소해 보여도 비선형 반복 과정에서는 차이가 커질 수 있습니다. 모델 오차는 방정식의 형태, 변수 선택, 매개변수 추정이 실제 시장의 작동 방식을 충분히 담지 못해 생깁니다. 출발점을 정밀하게 측정해도 충격의 지속성이나 체제 전환 구조가 잘못 설정됐다면 예측 가능 범위에는 한계가 생깁니다.
NOAA가 소개한 단순 카오스 시스템 연구도 초기 조건 오차와 함께 방정식 및 매개변수의 작은 모델 오차가 예측 한계를 만들 수 있다고 설명합니다. 이는 기상과 단순 동역학을 다룬 결과이므로 금융시장에 그대로 옮겨 정확도를 주장할 근거는 아닙니다. 다만 관측을 정교하게 만드는 작업과 모델 가정을 개선하는 작업을 함께 진행해야 한다는 실무적 시사점을 줍니다.
금융 시계열이 불규칙해 보인다는 사실만으로 결정론적 카오스가 입증되지는 않습니다. 확률적 뉴스 충격, 측정 잡음, 비정상성, 거래 제도 변화도 비슷한 모양을 만들 수 있습니다. 양의 리아프노프 지수가 계산돼도 표본 길이, 지연 차수, 임베딩 차원, 잡음 제거법을 바꾸어 결과가 유지되는지 확인해야 합니다. 위상공간 재구성 역시 자료가 충분하고 생성 과정이 비교적 안정적이라는 가정의 영향을 받습니다.
비선형 지표가 설정 변화에 지나치게 민감하면 이를 매매 신호처럼 사용하기 어렵습니다. 이 경우 카오스 여부를 단정하는 데 시간을 쓰기보다 예측 오차가 기간별로 얼마나 빨리 커지는지 측정하는 편이 실용적입니다. 조용한 국면과 급변 국면을 분리하고, 각 구간에서 매개변수와 잔차 분포가 어떻게 달라졌는지 확인하면 구조 변화의 위치를 더 분명하게 볼 수 있습니다.
백테스트가 실전 조건을 닮았는지 확인합니다
표본 내 적합도는 모델이 이미 본 자료를 얼마나 잘 설명하는지 보여줍니다. 실제 운용 가능성을 평가하려면 보지 않은 미래 구간에서 예측력을 측정해야 합니다. 시간 자료를 무작위로 섞는 교차검증은 미래가 과거 학습에 들어갈 위험이 있습니다. 워크포워드 검증에서는 과거 구간으로 모델을 추정하고 바로 다음 구간을 예측한 뒤, 시간이 전진할 때마다 같은 절차를 반복합니다. 재추정 주기와 사용 가능한 정보의 마감 시각도 실제 의사결정 조건과 맞춥니다.
비교 기준은 전일 변동성을 그대로 쓰는 방법, 이동평균, 단순 GARCH처럼 이해하기 쉬운 모델로 정합니다. 모든 후보에 동일한 정보 시점과 동일한 예측 기간을 적용합니다. 하루, 1주, 1개월처럼 기간별 점수를 따로 기록하고 평온기, 급등기, 회복기에서도 오차를 나눠 봅니다. 성공한 구간만 선택하는 확증편향과 최근 급등락에 과도한 가중치를 두는 경향을 막으려면 평가 규칙을 테스트 전에 문서로 고정하는 것이 좋습니다.
| 관찰된 문제 | 우선 확인할 항목 | 판단 단서 |
|---|---|---|
| 수준이 계속 치우침 | 목표 정의와 데이터 단위 | 연율화·수익률 계산 재확인 |
| 급변기에 구간 이탈 증가 | 분포 가정과 시장 체제 | 국면별 예외 빈도 비교 |
| 장기 예측만 급격히 악화 | 예측 기간과 오차 전파 | 기간별 성능 곡선 확인 |
| 백테스트만 우수함 | 누출과 과적합 | 워크포워드 결과와 대조 |
MAE는 평균적인 절대 오차를 직관적으로 보여주고, RMSE는 큰 오차에 더 큰 벌점을 줍니다. QLIKE는 변동성 예측 비교에서 큰 비율 오차를 살피는 데 유용하지만 실제 변동성 대용치의 품질에 영향을 받습니다. 한 지표의 승리로 결론을 확정하지 말고 오차 크기, 구간 포괄률, 급변기 안정성을 함께 확인합니다.
단순한 기준선에서 확률적 예측으로 확장합니다
진단 결과가 정리되면 다음 순서로 개선합니다.
- 목표 변동성, 데이터 주기, 예측 기간을 고정하고 단순 기준 모델을 다시 검증합니다.
- 예측 기간을 줄였을 때 오차와 구간 포괄률이 안정되는지 확인합니다.
- 롤링 창 길이와 재추정 주기를 바꾸되 후보 수와 선택 규칙을 미리 제한합니다.
- 입력값과 매개변수에 작은 변화를 준 여러 모델의 예측 분포를 결합합니다.
- 복잡한 후보가 표본 밖에서 지속적인 추가 효용을 보이는지 평가합니다.
HAR 모형은 일간·주간·월간 변동성 성분의 지속성을 비교적 간결하게 담을 수 있습니다. GARCH 계열은 시간에 따라 달라지는 조건부 분산과 충격의 지속성을 모델링하며, 비대칭형이나 두꺼운 꼬리 분포를 적용한 변형도 시험할 수 있습니다. 확률적 변동성 모형은 보이지 않는 변동성 상태 자체가 확률적으로 움직인다고 가정해 분포 전체를 다루기 좋습니다. 체제 전환 모형은 평온기와 급변기처럼 서로 다른 상태에서 매개변수가 달라지도록 구성합니다.
모델 이름만으로 우열은 정해지지 않습니다. 자산군, 표본 시기, 예측 기간에 따라 순위가 달라질 수 있으며 복잡성이 늘면 추정 불확실성과 운영 부담도 커집니다. 리아프노프 지수나 비선형 모형을 추가했을 때도 동일한 워크포워드 구간에서 기준선 대비 개선 폭, 급변기 손실, 결과의 안정성을 확인해야 합니다. 개선이 일부 기간에만 집중된다면 적용 조건을 제한하거나 가중치를 낮춥니다.
앙상블은 같은 모델의 입력과 매개변수를 조금씩 바꾸거나 서로 다른 모델의 결과를 결합해 가능한 경로의 범위를 만듭니다. ECMWF의 앙상블 설명은 초기 조건과 모델 구성의 불확실성을 여러 실행에 반영하고 결과를 확률적으로 해석합니다. 금융시장에서는 기상 방법론의 원리를 빌린 실무적 비유로 활용해야 합니다. 금융 특유의 정책 변화, 참여자 적응, 유동성 충격은 별도로 모델링하고 검증합니다.
최종 출력에는 점 예측과 함께 중앙 구간, 더 넓은 위험 구간, 국면별 시나리오 확률을 제공합니다. 실제 관측이 구간을 벗어난 횟수와 방향을 기록하고, 연속 이탈이 발생하면 재추정이나 모델 교체 검토를 시작하는 규칙을 세웁니다. 이렇게 하면 오차를 사후 변명으로 처리하지 않고 다음 업데이트의 입력으로 사용할 수 있습니다.
예측의 불확실성을 의사결정 규칙으로 바꿉니다
베이지안 사고는 복잡한 수식 없이도 적용할 수 있습니다. 현재 모델과 시장 체제에 대한 신뢰도를 임시 가정으로 두고, 새 관측이 들어올 때마다 그 신뢰도를 갱신합니다. 예상 범위 안의 관측이 이어지면 기존 시나리오의 비중을 유지할 수 있습니다. 구간 밖의 큰 움직임이 반복되면 급변 체제 확률을 높이고 평온 체제의 가중치를 낮춥니다. 하루의 충격에 즉시 결론을 뒤집기보다는 크기, 빈도, 지속성을 함께 기록합니다.
제가 매일 관측치를 정리할 때도 점 예측의 정답 여부만 표시하면 많은 정보가 사라졌습니다. 실제값이 구간의 어느 위치에 있었는지, 구간 폭이 전날보다 왜 변했는지, 어떤 모델이 이탈을 가장 빨리 포착했는지를 기록하자 판단 근거가 선명해졌습니다. 데이터 주기와 예측 기간을 맞춘 뒤에는 같은 수치도 해석이 달라졌습니다. 기록과 반복 점검을 중시하는 타미즈 헤리티지의 태도는 불확실성 속에서 성급한 확신을 경계하는 분석 습관과도 잘 맞습니다.
예측 구간이 넓어지면 의사결정의 확신도도 낮춰야 합니다. 투자 위험 관리에서는 노출 규모와 허용 손실 한도를 보수적으로 정하고 현금 여유를 점검하는 식으로 연결할 수 있습니다. 사업에서는 재고나 광고 예산을 한 번에 확정하기보다 단계별 집행, 취소 가능한 계약, 추가 승인 조건을 활용해 결정의 가역성을 높일 수 있습니다. 이는 특정 수익이나 손실 방지를 보장하는 처방이 아닙니다. 틀릴 가능성이 커졌을 때 회복 비용을 통제하는 원칙입니다.
오차 기록이 다음 예측의 출발점입니다
카오스 이론을 적용한 변동성 예측이 빗나가면 데이터 정의와 품질, 모델 가정과 매개변수, 검증 방식, 예측 기간, 의사결정 규칙의 순서로 다시 확인합니다. 초기 조건 민감성만으로 모든 실패를 설명하지 않고 모델 오차와 시장 체제 변화도 함께 기록해야 합니다.
단순 기준 모델을 워크포워드 방식으로 평가한 다음 필요한 만큼만 복잡성을 더합니다. 결과는 점 예측, 예측 구간, 시나리오 확률로 제시하고 새 관측에 따라 계속 갱신합니다. 좋은 예측 체계는 늘 맞는 숫자를 약속하지 않습니다. 언제 신뢰를 낮추고 행동 규모를 줄여야 하는지 알려주며, 남은 오차를 다음 판단의 근거로 축적합니다.
