변동성의 비밀을 풀다: 자기유사성 없이도 단기 옵션 가격을 예측하는 새로운 수학

왜 이 연구가 흥미로운가? 주식시장에서 변동성은 항상 불규칙하게 움직입니다. 마치 바람처럼 예측하기 어렵죠. 그런데 이 변동성의 움직임을 수학적으로 설명하는 모델들이 있습니다. 문제는 기존 모델들이 너무 단순한 가정을 한다는 것입니다. 이 논문은 그 가정을 완화하면서도 여전히 강력한 예측력을 유지하는 새로운 방법을 제시합니다.

---

들어가며: 일상에서 만나는 변동성

주식 투자를 해보신 분이라면 "변동성"이라는 말을 들어보셨을 겁니다. 주가가 하루 사이에 얼마나 오르내리는지를 나타내는 지표죠. 이 변동성은 시간이 지나면서 변합니다. 때로는 잠잠하다가 갑자기 요동치기도 합니다.

옵션 거래를 하시는 분이라면 이 변동성이 얼마나 중요한지 아실 겁니다. 옵션의 가격은 변동성에 크게 의존하기 때문이죠. 특히 만기가 짧은 옵션일수록 변동성의 영향이 더욱 극적으로 나타납니다.

그런데 이 변동성을 수학적으로 모델링하는 것은 생각보다 어렵습니다. 기존의 많은 모델들이 "자기유사성"이라는 가정을 사용합니다. 쉽게 말하면, 변동성의 패턴이 시간 규모에 관계없이 동일하다는 가정입니다. 현실에서는 이 가정이 항상 맞지는 않습니다.

---

무엇이 문제였나: 기존 모델의 한계

기존의 변동성 모델들은 크게 두 가지로 나뉩니다:

1. 블랙-숄즈 모델: 가장 기본적인 모델이지만, 변동성이 일정하다고 가정합니다. 현실과는 많이 다르죠.

2. 확률변동성 모델: 변동성이 시간에 따라 변한다고 가정합니다. 더 현실적이지만, 여전히 자기유사성이라는 가정을 많이 사용합니다.

자기유사성 가정이란 뭔가요? 쉽게 말하면, 1분 동안의 변동성 패턴과 1시간 동안의 변동성 패턴이 수학적으로 동일하다는 것입니다. 마치 프랙탈처럼 말이죠.

하지만 실제 시장 데이터를 분석해보면, 이 가정이 항상 맞지는 않습니다. 특히 단기(만기가 짧은) 옵션에서는 자기유사성 가정이 벗어나는 경우가 많습니다.

---

핵심 아이디어: Volterra 과정의 힘

이 논문의 핵심 기여는 자기유사성 가정 없이도 단기 옵션 가격을 분석할 수 있는 이론적 프레임워크를 제시한 것입니다.

Volterra 과정이란?

Volterra 과정은 수학에서 특별한 종류의 확률 과정입니다. 일반적인 확률 과정과 달리, 과거의 모든 정보가 현재에 영향을 미칩니다. 마치 기억력이 있는 확률 과정이라고 생각하시면 됩니다.

이 논문에서는 변동성이 이 Volterra 과정의 함수로 표현된다고 가정합니다. 즉, 변동성이 과거의 모든 움직임에 의존한다는 것이죠.

대편차 원리(Large Deviation Principle)

논문의 핵심 수학적 도구는 대편차 원리(LDP)입니다. 이것은 확률론에서 중요한 도구로, 극단적인 사건이 발생할 확률을 분석합니다.

쉽게 말하면, "주가가 하루 사이에 10% 이상 움직일 확률은 얼마인가?" 같은 질문에 답을 줄 수 있는 수학적 도구입니다.

이 논문의 혁신적인 점은 이 LDP를 자기유사성 가정 없이 적용할 수 있다는 것입니다.

---

결과 — 무엇을 알아냈나

이 논문은 두 가지 대표적인 비자기유사 조변동성 모델에 새로운 이론을 적용했습니다:

1. 로그 변조 분수 브라운 운동 모델

이 모델은 변동성이 로그 함수로 변조된 분수 브라운 운동의 함수로 주어집니다. Bayer et al.(2021)이 제안한 모델이죠.

분수 브라운 운동은 일반적인 브라운 운동(주식 가격의 기본 모델)을 확장한 것입니다. "분수"라는 말은 과거의 기억이 현재에 영향을 미친다는 뜻입니다.

2. 분수 Ornstein-Uhlenbeck(fOU) 과정 모델

이 모델은 변동성이 fOU 과정의 함수로 주어집니다. Gatheral et al.(2018)이 제안한 모델입니다.

fOU 과정은 Ornstein-Uhlenbeck 과정을 분수 확률 과정으로 확장한 것입니다. Ornstein-Uhlenbeck 과정은 평균으로 회귀하는 성질을 가지고 있어서, 변동성이 일정 수준으로 돌아가는 현실적인 특성을 모델링할 수 있습니다.

핵심 발견

두 모델 모두에서 이 논문의 이론을 적용하여 다음을 도출했습니다:

• 단기 만기 유러피안 옵션 가격의 점근적 behavior
• 내재변동성 표면의 단기 limit에서의 형태
• 내재변동성 스큐(왜도)의 점근적 구조

fOU 모델의 경우, 중간 편차 가격(moderate deviations pricing)도 분석했습니다. 이것은 대편차와 정상 편차 사이의 영역을 다루는 것으로, 실전에 더 가까운 분석입니다.

---

한계와 주의점

이 논문의 이론적 기여는 중요하지만, 몇 가지 한계가 있습니다:

1. 점근적 결과: 이 논문의 결과는 단기 만기(limit T→0)에서만 성립합니다. 실전에서 사용하는 만기(예: 1개월, 3개월)에서는 정확도가 떨어질 수 있습니다.

2. 모델 캘리브레이션: 이론적 결과를 실전에 적용하려면 모델 파라미터를 시장 데이터에 맞게 캘리브레이션해야 합니다. 이것은 쉬운 작업이 아닙니다.

3. 계산 복잡도: Volterra 과정 기반 모델은 계산적으로 복잡할 수 있습니다. 실시간 트레이딩에 적용하려면 효율적인 수치 방법이 필요합니다.

4. 시장 미시구조: 실제 시장에는 bid-ask 스프레드, 유동성 제약 등이 있습니다. 이 논문의 이론은 이러한 현실적 요소들을 고려하지 않습니다.

---

그래서 투자/실무엔?

이 논문의 이론적 프레임워크는 다음과 같은 실무적 시사점을 제공합니다:

옵션 트레이딩

• 단기 옵션 가격 결정: 자기유사성 가정 없이도 단기 옵션의 공정 가격을 더 정확하게 추정할 수 있습니다.
• 내재변동성 표면 분석: 단기 만기에서의 내재변동성 표면 형태를 이해하는 데 도움이 됩니다.
• 스큐 거래: 내재변동성 스큐의 점근적 구조를 이해하면, 스큐 기반 거래 전략을 개발하는 데 참고할 수 있습니다.

리스크 관리

• 헤지 전략: 변동성 모델의 단기 behavior를 이해하면, 옵션 포지션의 헤지 전략을 개선할 수 있습니다.
• 꼬리 위험: 대편차 분석을 통해 극단적 시장 움직임의 확률을 더 정확하게 추정할 수 있습니다.

모델 개선

• 기존 모델의 한계 인식: 자기유사성 가정이 언제 벗어나는지 이해하면, 기존 모델의 한계를 인식하고 보완할 수 있습니다.
• 새로운 모델 개발: Volterra 과정 기반의 새로운 변동성 모델을 개발하는 데 참고할 수 있습니다.

---

더 알아보기

• 📄 원문 논문 (arXiv)
• 📊 5차원 점수: novelty 78 · applicability 62 · rigor 82 · reproducibility 35 · insight 74 (composite 67.8, A 티어)