2021년 5월 AI 금융 연구 종합: 투자 전략의 유통기한, 그리고 변동성의 비밀

한 달 동안 올라온 200편의 논문에서 골라낸, 실무에 가장 가까운 연구들

---

들어가며: 마트 우유와 투자 전략

마트에서 우유를 살 때 유통기한을 확인하시나요? 대부분의 사람은 당연히 확인합니다. 그런데 투자 전략의 '유통기한'은 얼마나 자주 확인하시나요?

2021년 5월, arXiv에는 투자 전략에도 유통기한이 있다는 것을 정량적으로 보여주는 연구가 올라왔습니다. 학술 논문에 발표된 72개 주식 투자 전략을 분석했더니, 출판 후 샤프 비율이 평균 43%나 감소했다는 것입니다. 더 충격적인 건, 이 '유통기한'을 예측하는 방법도 함께 제시했다는 점이죠.

이번 달에는 이 연구를 포함해, 변동성을 다루는 새로운 접근법, 인공지능이 옵션 가격을 매기는 방법, 그리고 탈중앙 거래소에서 벌어지는 차익거래까지 — 5개 테마로 나눠 살펴보겠습니다.

---

테마 1: 투자 전략에도 유통기한이 있다

문제: 학술 논문의 전략이 실제 시장에서 안 먹는 이유

주식 시장에서 '이상 현상(anomaly)'이라고 불리는 것들이 있습니다. 특정 패턴을 따르면 수익을 낼 수 있다는 발견이죠. 예를 들어 "작은 회사 주식이 큰 회사보다 수익률이 높다"거나 "최근 오른 주식이 계속 오른다" 같은 것들이 있습니다.

학술 논문들이 이런 이상 현상을 발견하고 발표하면, 많은 투자자들이 이를 따라 투자 전략을 만듭니다. 그런데 이상한 일이 벌어집니다. 논문이 발표된 후에는 그 전략이 잘 안 먹히기 시작한다는 거죠.

연구가 밝힌 것

프랑스 연구팀(Falck, Rej, Thesmar)은 1963년부터 2014년까지 미국 시장에서 발견된 72개 이상 현상을 체계적으로 분석했습니다. 결과는 다음과 같습니다:

• 출판 전 평균 샤프 비율: 0.98 (상당히 좋은 성과)
• 출판 후 중위 할인 비율: 0.55 (샤프가 43% 감소)
• 매년 5%p씩 성과 하락이 가속화

그런데 여기서 핵심 질문이 있습니다. 왜 전략이 쇠퇴할까?

연구팀은 두 가지 가설을 검증했습니다:

1. 차익거래 자본 가설: 전략이 알려지면 많은 돈이 몰리고, 그로 인해 수익 기회가 사라진다.
2. 과적합 가설: 연구자들이 데이터에 너무 맞춘 전략을 만들어냈고, 실제 시장에서는 당연히 안 먹힌다.

결과는? 과적합이 압도적인 원인이었습니다.

전략을 만드는 데 필요한 계산 단계가 2개를 초과하면 성과 하락이 확연히 커졌고, 극단적 데이터(이상치)에 민감한 전략일수록 더 빨리 쇠퇴했습니다. 반면 차익거래 자본의 유입은 통계적으로는 유의미했지만, 설명력이 매우 미미했습니다(R²=0.00~0.11).

쉽게 말하면, 전략이 안 먹히는 건 '너무 많은 사람이 써서'가 아니라 '애초에 데이터에 너무 맞춘 전략이었기 때문'이라는 거죠.

투자자에게 이는 무엇을 의미할까요?

이 연구가 알려주는 중요한 교훈이 있습니다:

• 단순한 전략이 오래 산다. 계산이 복잡하고 극단적 데이터에 민감한 전략은 유통기한이 짧습니다.
• 최근 논문의 전략은 조심해야 한다. 2010년대 이후 발표된 논문일수록 과적합 위험이 높아지는 추세입니다.
• 성과가 좋다고 좋아서가 아니다. 샘플 내 성과가 아무리 좋아도, 실제 시장에서는 다를 수 있습니다.

📄 원문: Why and how systematic strategies decay

---

테마 2: 변동성을 다루는 새로운 방법 — 거친 변동성

문제: 변동성이 매끄럽지 않다면?

파생상품을 거래할 때 가장 중요한 것 중 하나가 '변동성'입니다. 변동성은 주가가 얼마나 널뛰는지를 나타내는 지표로, 옵션 가격을 결정하는 핵심 요소죠.

기존에는 변동성이 시간에 따라 매끄럽게 변한다고 가정했습니다. 마치 호수 표면의 물결처럼, 시간이 지나면 어느 정도 평탄해진다고 본 거죠. 이를 '부드러운 변동성(smooth volatility)' 모델이라고 합니다.

그런데 실제 시장 데이터를 자세히 보면, 변동성은 그렇게 매끄럽지 않습니다. 오히려 모래알처럼 거친 표면처럼 행동합니다. 이것이 '거친 변동성(rough volatility)' 모델의 출발점입니다.

놀라운 실증 결과

Fukasawa, Horvath, Tankov 세 연구자는 VIX 옵션(변동성 지수 옵션)을 대상으로 세 가지 모델의 헤지 성능을 비교했습니다:

거친 변동성 모델의 헤지 오차가 기존 모델 대비 약 27% 감소한 것입니다. 더 놀라운 것은, 평균 편향(P&L 바이어스)이 거의 제거되었습니다 — 0.000635로, Black-Scholes의 0.005336에 비해 8배 이상 작습니다.

이것이 무엇을 의미하는지를 비유로 설명하면, 다음과 같습니다:

기존 모델은 마치 자로 잰 듯 직선으로 길을 찾으려 했는데, 실제 시장은 울퉁불퉁한 산길이었습니다. 거친 변동성 모델은 이 산길의 실제 지형을 인정하고, 그에 맞게 길을 찾는 방법을 제시한 셈이죠.

SABR 공식의 확장

이와 관련해, 같은 연구팀(Fukasawa, Gatheral)이 기존 SABR 모델을 거친 변동성으로 확장하는 '거친 SABR 공식'도 제시했습니다. SABR 모델은 옵션 시장에서 가장 널리 사용되는 변동성 모델 중 하나인데, 이 모델의 한 가지 문제가 만기(maturity)에 따라 파라미터가 바뀐다는 것이었습니다.

거친 SABR 공식은 Hurst 지수 H라는 하나의 파라미터로 이 만기 의존성을 절약적으로 설명할 수 있는 가능성을 제시합니다. 이것이 확인되면 실무 적용 파괴력이 매우 큽니다.

📄 원문: Hedging under rough volatility, A rough SABR formula

---

테마 3: 인공지능이 옵션 가격을 매기는 법

문제: 기존 옵션 모델의 구속

옵션 가격을 매기는 전통적인 방법은 Heston, SABR 같은 수학적 모델을 사용하는 것입니다. 그런데 이런 모델은 주가가 어떻게 움직일지에 대해 사전에 정해둔 가정을 합니다. 예를 들어 "변동성은 이 방정식을 따른다"거나 "주가는 로그정규분포를 따른다" 같은 것들이죠.

문제는 실제 시장이 이런 가정을 항상 따르지 않는다는 것입니다. 모델이 실제와 다르면, 가격도 틀어지고, 헤지도 틀어집니다.

Neural SDE: 신경망이 시장 동학을 학습하다

옥스퍼드 대학의 Cohen, Reisinger, Wang은 차익거래가 불가능한 신경 SDE 모델을 제안했습니다. 이름이 좀 어려워 보이지만, 핵심 아이디어는 간단합니다:

1. 신경망에게 주가와 옵션 가격의 동학을 학습시킨다. 파라메트릭 모델의 가정 없이, 시장 데이터에서 직접 학습.
2. 차익거래 불가능 조건을 신경망 구조에 직접 내장한다. 학습 과정에서 차익거래 기회가 생기지 않도록 강제.

이 모델의 성과는 인상적입니다:

• 3팩터 모델에서 평균 절대백분율오차(MAPE) 3.85%
• 정적 차익거래 위반율 0.37% (거의 모든 경우에 차익거래 없음)
• 샘플 외 시뮬레이션에서 주가, 팩터, VIX의 현실적 분포를 재현

쉽게 말하면, 인공지능이 시장의 동학을 자체적으로 학습하면서도, 기본적인 경제 법칙(차익거래 불가능)은 반드시 지키도록 한 것입니다.

비유를 들어보겠습니다. 전통적 모델은 요리책 레시피를 따라하는 것이라면, neural SDE는 요리의 기본 원리를 이해한 셰프가 자유롭게 창작하는 것과 같습니다. 하지만 기본 위생 규칙(차익거래 불가능)은 반드시 지켜야죠.

실무적 시사점

이 모델은 특히 다음과 같은 상황에서 유용합니다:

• 비유동성 파생상품 가격 결정: 거래가 거의 없는 옵션의 가격을 차익거래 없이 설정
• 포트폴리오 리스크 관리: 옵션 북 전체의 시뮬레이션으로 VaR/CVaR 계산
• 모델 리스크 감소: 파라메트릭 모델의 구조적 가정 오류로부터 자유로움

📄 원문: Arbitrage-free neural-SDE market models

---

테마 4: 뉴스에서 투자 신호 찾기 — 이벤트 드리븐 트레이딩

문제: 뉴스를 읽고 투자하기엔 너무 빠르다

"삼성이 새 공장을 짓는다", "애플이 신제품을 발표한다" — 이런 뉴스가 나오면 주가에 영향을 미칩니다. 하지만 현대 시장에서는 뉴스가 나온 후 수 초, 수 밀리초 만에 가격이 반영됩니다. 사람이 뉴스를 읽고 판단을 내리기엔 너무 빠른 거죠.

연구팀의 해결방안

연구팀은 기업 이벤트(M&A, 실적 발표, 계약, 소송 등)를 뉴스에서 자동 탐지하고, 이를 트레이딩 신호로 전환하는 파이프라인을 제안했습니다.

핵심은 두 가지입니다:

1. 이벤트 탐지 모델: 뉴스 기사에서 어떤 유형의 기업 이벤트가 발생했는지를 자동으로 분류
2. 가격 오반영 포착: 이벤트 발생 후 시장의 반응이 과도하거나 불충분한 경우를 식별하여 수익 기회 포착

관련 연구로는 원자재 뉴스에서 이벤트를 추출하는 전용 코퍼스 구축([2105.08214])과, 표와 텍스트가 혼재된 금융 데이터에 대한 질의응답 벤치마크([2105.07624])도 함께 발표되었습니다.

금융 NLP 분야가 단순한 감성 분석에서 구조화된 이벤트 추출과 수치적 추론으로 진화하고 있음을 보여주는 달이었습니다.

📄 원문: Trade the Event, Commodity News Corpus, TAT-QA

---

테마 5: 탈중앙 거래소에서 벌어지는 수학적 게임

DeFi와 전통 시장 미시구조의 만남

비트코인, 이더리움 같은 암호화폐를 거래하는 탈중앙 거래소(DEX)에서는 전통적인 주식시장과는 완전히 다른 방식으로 가격이 형성됩니다. 중개인이 없고, 대신 자동화된 시장 조성자(AMM)라는 수학적 공식이 가격을 결정합니다.

이번 달에는 이러한 AMM의 메커니즘을 수학적으로 분석하는 연구가 두각을 나타냈습니다.

순환 차익거래

가장 흥미로운 연구 중 하나는 DEX에서 발생하는 순환 차익거래(cyclic arbitrage)입니다.

전통적인 차익거래는 "A시장에서 싸게 사서 B시장에서 비싸게 파는" 것입니다. 그런데 DEX에서는 여러 토큰 쌍 사이에 가격 불일치가 발생할 수 있고, 이를 이용해 A→B→C→A처럼 순환하면서 수익을 내는 기회가 존재합니다.

연구팀은 Uniswap V2에서 이러한 순환 차익거래 기회를 체계적으로 분석했습니다.

관련 연구로 AMM의 수학적 성질 분석([2105.02782]), 최적 수수료 결정에 대한 게임 이론적 접근([2105.13510]), 그리고 호가창의 다중 지평 예측을 위한 딥러닝 모델([2105.10430])도 함께 발표되어, 시장 미시구조 연구가 전통과 DeFi 양쪽에서 동시에 진행되고 있음을 보여주었습니다.

📄 원문: Cyclic Arbitrage in DEX

---

Big Picture: 2021년 5월이 우리에게 말하는 것

이번 달의 연구를 관통하는 하나의 메시지가 있습니다: "모형의 한계를 인정하라, 그리고 더 강건하고 유연한 프레임워크로 전환하라."

• 변동성이 매끄럽지 않다는 것을 인정하고, 거친 변동성 모델이 27% 더 정확하다([2105.04073])
• 파라메트릭 모델의 가정을 버리고, 신경망이 시장 동학을 직접 학습하되 경제 법칙은 반드시 지키게 하라([2105.11053])
• 투자 전략의 유통기한을 확인하고, 과적합 여부를 반드시 점검하라([2105.01380])
• 모형 불확실성을 정량적으로 반영하는 분포 강건 최적화를 적용하라([2105.00935])

이러한 연구는 모두 같은 방향을 가리킵니다: 완벽한 모델은 존재하지 않으며, 모델의 불확실성을 인정하고 그에 대비하는 것이 더 중요하다.

---

함께하기

이런 연구들을 꾸준히 추적하고 싶으시다면:

• 📬 ohselab.com에서 최신 연구 분석을 구독하세요
• 💬 상담 문의 — 정량 투자 전략에 대해 논의해요
• 🐦 팔로우 — 일일 연구 하이라이트를 만나보세요

---

더 알아보기

이 글에서 다룬 논문들의 상세 분석은 백필 리포트에서 확인할 수 있습니다.

N=Novelty, A=Applicability, R=Rigor, R=Reproducibility, I=Insight