2022년 2월 AI 퀀트 리서치 요약

돈을 굴리는 과학이 한 달 동안 어디까지 왔을까?

안녕하세요! 매달 찾아오는 AI·퀀트 금융 논문 리뷰입니다.

2022년 2월, 그러니까 학술 논문 세계에서는 "2202 코호트"라고 부르는 이 달의 논문들을 살펴보겠습니다. 혹시 "퀀트"라는 말이 생소하신가요? 퀀트(quant)는 '정량적(quantitative)'의 줄임말로, 수학과 컴퓨터로 투자 전략을 짜는 사람들을 뜻합니다. 영화 「빅쇼트」나 「머니볼」을 떠올리시면 비슷합니다 — 야구에서 데이터로 선수를 평가하듯, 주식시장에서도 데이터와 수학으로 투자하는 거죠.

이번 달에는 다섯 가지 큰 주제가 눈에 띕니다. 하나씩 이야기하듯 풀어볼게요.

---

1. 포트폴리오 — 돈을 어떻게 나눠야 할까?

문제의식: 계란을 한 바구니에 담지 마세요

투자의 가장 기본 원칙은 "분산 투자"입니다. 계란을 한 바구니에 다 넣으면 바구니를 떨어뜨렸을 때 전부 깨지죠. 여러 바구니에 나눠 담으면 하나가 깨져도 나머지는 안전합니다. 주식도 마찬가지예요. A 회사만 사면 A가 망하면 끝이지만, A·B·C·D에 골고루 투자하면 위험을 줄일 수 있습니다.

그런데 문제는 "어떻게 나눌까?"입니다. 10개 주식에 똑같이 10%씩 넣을까요? 아니면 더 유망한 것에 더 많이? 이 질문에 답하는 것이 포트폴리오 이론입니다.

대표 논문: 2202.10817 — 정규 포트폴리오 (점수: 75.3)

이 논문의 핵심 아이디어를 비유로 설명해 볼게요.

동네 슈퍼마켓에서 장을 본다고 상상해 보세요. 사고 싶은 물건이 1,000개인데, 예산은 정해져 있습니다. 각 물건의 "가성비"를 계산해서 예산 안에서 최적의 조합을 찾아야 합니다. 그런데 1,000개 물건의 가성비를 하나하나 계산하다 보면, 서로 비슷한 물건(예: 라면 A와 라면 B)의 정보가 겹칩니다. 이 겹치는 정보를 제거하면 계산이 훨씬 쉬워지겠죠?

이 논문은 바로 그 "겹치는 정보 제거"를 수학적으로 해냅니다. CCA(典型 상관 분석)라는 기법으로 자산(주식 등)과 투자 신호(수익률 예측 등)를 서로 독립적인 성분으로 분해합니다. 마치 색을 빨강·파랑·초록 세 가지 기본 색으로 나누듯, 투자 정보를 핵심 성분으로 나누는 거죠.

그 결과, 포트폴리오 비중을 "닫힌형(closed-form)"으로 구할 수 있게 됩니다. 닫힌형이란, 복잡한 반복 계산 없이 공식에 숫자만 넣으면 바로 답이 나오는 것을 말합니다. 계산기로 루트를 바로 구할 수 있는 것과 비슷한 이치예요.

이 연구는 2006년에 Brandt, Santa-Clara, Cochrane 같은 학자들이 제안한 이론을 수천 개 자산이 있는 대규모 시장에서도 쓸 수 있도록 확장한 것입니다. 실전 펀드매니저 입장에서는 반가운 소식이죠.

함께 보면 좋은 논문들

• 2202.06666 — 이중 수축 최소분산 포트폴리오 (점수: 74.4) "수축(shrinkage)"은 추정치를 평균 쪽으로 당기는 기법입니다. 날씨 예보에서 "내일 기온은 15도에서 20도 사이일 것"이라고 범위를 줄이는 것과 비슷해요. 이 논문은 포트폴리오의 공분산 행렬(자산 간 움직임의 관계)과 기대수익률 둘 다 수축시켜서, 추정 오차를 줄이는 방법을 제안합니다.

• 2202.07610 — 로-아비트라주 (점수: 69.7) "아비트라주"는 무위험 이익 기회를 뜻합니다. 같은 물건이 A 가게에서는 1만 원, B 가게에서는 9천 원이면 A에서 팔고 B에서 사서 1천 원 남기는 거죠. 이 논문은 포트폴리오를 만들 때 이런 "무위험 이익 기회"가 남지 않도록 제약을 겁니다. 그리스 문자 로(ρ)를 써서 자산 간 상관관계의 불확실성까지 고려합니다.

공통 메시지

포트폴리오 이론이 수학적 우아함을 넘어, 추정 오차와 실전 제약을 동시에 다루는 방향으로 진화하고 있다.

---

2. 매일 매일 포트폴리오를 다시 짜는 법

문제의식: 시장은 매일 변하는데, 포트폴리오는?

앞서 본 포트폴리오 이론은 "한 번 최적으로 짜면 끝"이라는 가정이 깔려 있습니다. 하지만 현실은 다릅니다. 오늘 최적인 포트폴리오가 내일도 최적이라는 보장이 없어요. 시장은 매일, 매시간 변하니까요.

그렇다고 매일 전체 포트폴리오를 처음부터 다시 계산하면 비용이 너무 큽니다. 거래 수수료도 들고, 계산 시간도 오래 걸립니다. 그래서 나온 아이디어가 온라인 포트폴리오 선택입니다.

"온라인"이라는 말이 인터넷 쇼핑 같은 뜻이 아닙니다. 여기서는 "데이터가 하나씩 들어올 때마다 실시간으로 업데이트한다"는 의미입니다. 매일 장이 끝날 때마다 새로운 정보를 반영해서 포트폴리오를 조금씩 조정하는 거죠.

대표 논문: 2202.02765 — BISONS (점수: 73.0)

이 논문의 이름 BISONS는 복잡한 약자인데, 핵심만 말씀드릴게요.

온라인 포트폴리오 분야에서 오래된 난제가 있었습니다. "계산 속도"와 "이론적 최적성"을 동시에 만족시키기 어렵다는 것이었습니다. 빠른 알고리즘은 성능이 떨어지고, 성능이 좋은 알고리즘은 느렸습니다.

BISONS는 이 둘을 동시에 달성합니다. 구체적으로, 다항 시간(계산 시간이 자산 수의 거듭제곱 비례로만 증가)과 다항 메모리(메모리도 마찬가지) 안에서 다항 로그 리그릿(polynomial log regret)을 보장합니다.

"리그릿(regret)"은 쉽게 말해 "후회"입니다. 매일 최적의 포트폴리오를 골랐다면 벌었을 수익과, 실제 알고리즘이 벌었을 수익의 차이죠. 이 차이가 시간이 지나도 너무 커지지 않으면(다항 로그 수준이면) 좋은 알고리즘입니다.

비유를 들어볼게요. 매일 출근길에 두 갈래 길이 있다고 합시다. 하나는 항상 빠르고, 하나는 매일 바뀝니다. 매일 최적의 길을 고른다면 "후회"가 없겠죠. BISONS는 그 "후회"를 최소화하면서도, 매일 길을 고르는 데 걸리는 시간과 기억해야 할 정보의 양을 합리적으로 유지합니다.

함께 보면 좋은 논문

• 2202.07574 — 댐프드 온라인 뉴턴 스텝 (점수: 73.0) 뉴턴 방법은 함수의 최솟값을 찾는 고전적 수학 기법입니다. 미분으로 기울기를 구해서 골짜기를 향해 걸어가는 것과 같아요. 이 논문은 그 뉴턴 방법을 온라인(매 시간 업데이트)으로 쓸 때, 과거 정보를 서서히 잊어버리게 만드는 "댐프(damp)" 기법을 적용합니다. 시장이 변했을 때 과거 데이터에 너무 매이지 않도록 하는 거죠.

공통 메시지

온라인 포트폴리오 선택에서 계산 효율과 이론적 최적성은 더 이상 트레이드오프가 아니다.

---

3. 시장이 폭락할 때를 대비하는 법

문제의식: 검은 백조를 잡아라

2008년 금융위기, 2020년 코로나 폭락... 시장은 가끔 "말도 안 되는" 일이 벌어집니다. 평소에는 주가가 하루에 1%만 움직이다가, 어느 날 갑자기 10%가 빠지는 거죠.

통계학에서 이런 극단적 사건을 "꼬리 위험(tail risk)"이라고 부릅니다. 정규분포(종형 곡선)의 양쪽 끝, 즉 "꼬리" 부분에 해당하는 사건이기 때문이에요. 정규분포에서는 하루 10% 변동이 수천 년에 한 번 나올 확률인데, 현실에서는 10년마다 터집니다. 왜일까요?

이유는 간단합니다. 주식 수익률은 정규분포를 따르지 않기 때문입니다. 정규분포는 양쪽이 대칭이고 뾰족한 봉우리 모양인데, 실제 주식은 한쪽으로 치우치고(비대칭), 양쪽 꼬리가 훨씬 두껍습니다(극단 사건이 더 자주 일어남).

대표 논문: 2202.01043 — 2T-POT Hawkes (점수: 72.8)

이 논문은 꼬리 위험을 더 정확하게 잡기 위해 두 가지를 결합합니다.

첫째, 극단값 이론(EVT, Extreme Value Theory). 이것은 "극단적인 사건만 따로 모아서 분석하자"는 통계학의 한 분야입니다. 비유하자면, 평소 날씨는 무시하고 태풍·홍수·폭염만 따로 모아서 분석하는 것과 같아요. POT(Peaks Over Threshold) 방법은 "일정 수준을 넘는 사건만 추출"해서 그 초과분의 분포를 분석합니다.

둘째, Hawkes 과정. Hawkes 과정은 "사건이 사건을 부른다"는 현상을 모델링합니다. 시장이 한 번 폭락하면 공포가 퍼져서 추가 폭락이 이어지는 것, 즉 "자기흥분" 현상이죠. 지진이 나면 여진이 이어지는 것과 비슷합니다.

이 논문의 핵심 기여는 비대칭을 도입한 것입니다. 양쪽 꼬리(상승과 하락)를 각각 다른 Hawkes 과정으로 모델링합니다. 실제로 시장에서는 하락 꼬리가 상승 꼬리보다 훨씬 두껍고, 하락 후 추가 하락이 더 강하게 일어나거든요.

이 방법을 VaR(Value at Risk)와 ES(Expected Shortfall) 예측에 적용했습니다. VaR는 "내일 최악의 경우에 이 정도까지만 잃을 것"이라는 수치이고, ES는 "VaR를 넘어서면 평균적으로 이 정도 더 잃을 것"이라는 수치입니다.

위 그림은 세 개 주요 지수에 대해 이 모델이 예측한 VaR(회색 영역)와 실제 수익률(검은 선)을 비교한 것입니다. 수익률이 VaR 영역 밖으로 나간 날(위반, breach)이 적을수록 모델이 정확하다는 뜻입니다. 이 논문은 2024년에 국제학술지 International Journal of Forecasting에 정식 게재되었습니다.

함께 보면 좋은 논문들

• 2202.10721 — 왜도를 고려한 리스크 패리티 (점수: 73.4) 리스크 패리티는 "각 자산이 포트폴리오 위험에 기여하는 비율을 같게 만들자"는 전략입니다. 그런데 기존 방법은 변동성(위험의 크기)만 같게 했지, 왜도(skewness), 즉 위험의 모양은 무시했습니다. 이 논문은 꼬리의 비대칭성까지 고려해서 리스크 패리티를 구성합니다.

• 2202.11060 — 제한 볼츠만 머신으로 신용 포트폴리오 분석 (점수: 71.3) 신용 포트폴리오는 회사채 등을 묶은 것입니다. 이 논문은 제한 볼츠만 머신(RBM)이라는 인공신경망을 활용해서, 채무불이행(디폴트) 간의 복잡한 상관관계를 모델링합니다. 기존 방법으로는 잡기 어려운 비선형 관계를 포착하죠.

공통 메시지

꼬리 위험은 정규분포 가정으로는 잡을 수 없으며, 이제는 점프와 비대칭성을 직접 모델링하는 시대다.

---

4. 옵션 가격을 AI가 더 잘 매길 수 있을까?

문제의식: 옵션이란 무엇인가?

주식을 사는 것 말고도, "나중에 살 수 있는 권리"를 사고팔 수 있습니다. 이것이 바로 옵션입니다.

예를 들어, 현재 주가가 10만 원인 A 회사 주식이 있습니다. "3개월 후에 11만 원에 살 수 있는 권리"를 5천 원에 팔겠다는 사람이 있으면, 그 권리를 사는 것이 옵션 매수입니다. 3개월 후 주가가 15만 원이 되면, 11만 원에 사서 바로 15만 원에 팔아 4만 원 이익(수수료 제외)을 볼 수 있죠. 반면 주가가 9만 원이면 권리를 포기하면 되니, 잃는 건 5천 원뿐입니다.

문제는 이 권리를 얼마에 팔아야 하느냐입니다. 이것이 옵션 가격결정의 핵심 질문입니다. 유명한 블랙-숄즈 공식이 있지만, 현실의 옵션 시장은 그 공식이 가정하는 것보다 훨씬 복잡합니다.

대표 논문: 2202.07148 — 신경 미분방정식 옵션 리스크 (점수: 70.6)

이 논문은 신경 미분방정식(Neural SDE)을 사용합니다. 이름이 무섭지만, 하나씩 풀어볼게요.

미분방정식(SDE, Stochastic Differential Equation)은 "확률적으로 변하는 것을 수식으로 표현한 것"입니다. 주가가 매 순간 오르내리는 것을 수학적으로 묘사하는 도구죠. 블랙-숄즈 공식도 미분방정식에서 출발합니다.

신경(Neural)은 인공신경망, 즉 딥러닝을 뜻합니다. 기존에는 주가 움직임의 패턴을 사람이 직접 가정했습니다(예: "로그 정규분포를 따른다"). 그런데 신경 미분방정식은 데이터에서 패턴을 직접 학습합니다. 마치 어린아이가 수천 번 넘어지면서 걸음마를 배우듯, 과거 옵션 데이터를 보면서 시장의 움직임을 익히는 거죠.

이 논문의 핵심은 차익거래-free(arbitrage-free)라는 제약입니다. 신경망이 아무거나 학습하면, 현실에서는 불가능한 가격(무위험 이익 기회)을 만들어낼 수 있습니다. 이 논문은 신경망 구조 자체에 "차익거래가 불가능하도록" 제약을 걸어, 현실적으로 타당한 모델을 만듭니다.

이 모델로 옵션 가격 표면(만기별·행사가격별 옵션 가격의 분포)의 미래 시나리오를 생성하고, VaR(Value at Risk)를 계산합니다. 기존의 FHS(Filtered Historical Simulation) 방법보다 VaR 정확성과 계산 효율 모두에서 우수한 결과를 보였습니다.

위 그림은 다양한 옵션 포트폴리오에 대해 VaR를 위반한(예상보다 더 큰 손실이 발생한) 시점을 보여줍니다. 빨간색이 위반을 뜻하는데, 빨간색이 적을수록 모델이 정확하다는 의미입니다.

함께 보면 좋은 논문들

• 2202.10413 — VIX 옵션 가격결정 (점수: 69.4) VIX는 "공포 지수"라고도 불리는 시장 변동성 지표입니다. 이 지표를 기초자산으로 한 옵션을 가격결정하는 모델을 다룹니다.

• 2202.08962 — 머신러닝 변동성 예측 (점수: 69.6) 옵션 가격의 핵심 재료인 "변동성"을 머신러닝으로 더 정확하게 예측하는 방법을 제안합니다.

• 2202.11285 — 신경 GARCH (점수: 61.8) GARCH는 변동성이 시간에 따라 변하는 패턴을 모델링하는 고전적 방법입니다. 이 논문은 GARCH의 구조에 신경망을 결합해서, 더 복잡한 변동성 패턴을 포착합니다.

공통 메시지

딥러닝이 옵션 시장의 복잡한 동역학을 학습하면서도 무차익 제약을 지키는 모델이 나오고 있다.

---

5. 가상의 시장을 만들어 투자 전략을 시험하다

문제의식: 과거만으로는 미래를 알 수 없다

투자 전략을 시험하는 전통적 방법은 백테스팅입니다. 과거 데이터에 전략을 적용해서 "만약 이 전략을 썼다면 어땠을까?"를 확인하는 거죠.

그런데 백테스팅에는 치명적 약점이 있습니다. 과거에 일어난 일만 테스트할 수 있다는 것입니다. 2008년 금융위기 같은 사건은 과거에 딱 한 번 일어났습니다. 그 한 번의 데이터로는 전략의 진정한 한계를 알기 어렵습니다.

마치 축구 선수가 실제 시합에서만 연습할 수 있는 것과 같습니다. 시합은 일주일에 한 번인데, 연습은 매일 해야 하죠. 그래서 드릴, 훈련 게임, 시뮬레이션이 필요합니다. 투자에서도 "가상의 시장"을 만들어서 전략을 시험할 수 있다면 어떨까요?

대표 논문: 2202.13996 — 위험중립 시장 시뮬레이션 (점수: 70.3)

이 논문은 신경 스플라인 흐름(Neural Spline Flows)이라는 딥러닝 기법으로 가상의 시장을 만듭니다.

"스플라인"은 부드러운 곡선을 만드는 수학 기법입니다. 자동차 디자인에서 곡면을 만들 때 쓰는 것과 같아요. "흐름(flow)"은 확률분포를 변환하는 방법입니다. 간단한 분포(예: 균등분포)를 복잡한 분포(예: 주식 수익률 분포)로 변환하는 거죠.

이 두 가지를 결합하면, 실제 시장 데이터를 보고 "비슷하지만 다른" 가상 시장을 무한히 만들어낼 수 있습니다. 마치 실제 축구 경기 영상을 보고, 비슷한 상황의 시뮬레이션 게임을 만드는 것과 같습니다.

중요한 제약이 하나 있습니다: 위험중립(risk-neutral)이어야 한다는 것입니다. 위험중립이란, 가상의 시장에서도 무위험 이익 기회가 없어야 한다는 뜻입니다. 현실에서는 불가능한 "공짜 점심"이 가상 시장에서 나오면, 그 시장에서 테스트한 전략의 결과를 신뢰할 수 없겠죠.

이 논문은 KL 발산(두 확률분포 사이의 "거리") 기준으로, 역사 데이터에 가장 가까운 위험중립 시뮬레이터를 만드는 데 성공했습니다.

위 그림은 유로스톡스 지수의 현물 가격과 위험중립 변동성 곡선(DLV, Dynamic Local Volatility)을 보여줍니다. 시뮬레이터가 실제 시장의 변동성 구조를 얼마나 잘 재현하는지 확인할 수 있습니다.

위 그림은 가상 시장에서 생성된 포트폴리오 손익(PnL)과 기초자산(현물) 가격의 관계를 보여줍니다. 실제 옵션 포트폴리오에서 기대할 수 있는 비선형 관계(손익이 곡선으로 나타남)가 시뮬레이터에서 자연스럽게 재현되고 있습니다.

함께 보면 좋은 논문들

• 2202.00941 — CTMSTOU 레짐 시뮬레이션 (점수: 63.2) 시장에는 "좋은 시기"와 "나쁜 시기"가 있습니다. 이 논문은 시장의 상태(레짐)를 전환하는 모델로 가상 시장을 만듭니다.

• 2202.12137 — 호가장 모델링 (점수: 61.8) 주식시장의 "호가장(LOB, Limit Order Book)"은 사려는 사람과 팔려는 사람의 주문이 쌓여 있는 장부입니다. 이 논문은 호가장의 미시구조를 모델링해서, 더 현실적인 가상 거래 환경을 만듭니다.

공통 메시지

실제 시장 데이터로만 테스트하면 미래를 못 보지만, 물리적으로 타당한 가상 시장으로 전략의 한계를 미리 탐색할 수 있다.

---

한눈에 보기: 2022년 2월의 다섯 가지 키워드

---

마무리: 2022년 2월은 어떤 달이었나?

2022년 2월은 포트폴리오 이론이 수학적 우아함을 넘어 실전 대형 유니버스로, 온라인 학습이 이론적 한계를 돌파하고, 꼬리 위험 모델링이 비대칭성을 직시하며, AI가 옵션 시장의 복잡한 동역학을 학습하기 시작한 달입니다.

각 분야에서 공통으로 보이는 흐름이 있습니다: 이론과 실전의 간격이 좁아지고 있다는 것입니다. 수학적으로 아름답지만 현실에서 쓸 수 없었던 모델들이, 딥러닝과 계산 효율의 발전 덕분에 실전에 가까워지고 있습니다.

물론 한계도 있습니다. 신경 미분방정식이나 시장 시뮬레이터는 아직 "블랙박스" 성격이 강해서, 왜 그런 결과가 나오는지 설명하기 어렵습니다. 또한 과거 데이터로 학습한 모델이 미래의 전례 없는 위기에도 작동할지는 아직 검증이 부족합니다.

하지만 방향은 분명합니다. 데이터와 AI가 투자 의사결정을 보조하는 도구로서, 점점 더 성숙해지고 있습니다.

---

더 알아보기

이 글에서 다룬 논문들이 궁금하시다면, 아래 링크에서 원문을 확인하실 수 있습니다.

• arXiv 2202.10817 — Canonical Portfolios
• arXiv 2202.02765 — BISONS
• arXiv 2202.01043 — 2T-POT Hawkes
• arXiv 2202.07148 — Neural-SDE Option Risk
• arXiv 2202.13996 — Risk-Neutral Market Simulation