포트폴리오를 더 똑똑하게: 예측과 의사결정을 하나로 묶는 2021년 2월의 연구들

"예측은 예측대로, 최적화는 최적화대로" — 이 분리가 항상 최선일까요?

투자 전략을 만들다 보면 보통 이렇게 일합니다. 먼저 수익률을 예측하는 모델을 만들고, 그 예측값을 포트폴리오 최적화 모델에 넣어서 자산 배분을 결정하죠. 두 단계가 각각 최선이라고 생각하면 자연스러운 접근입니다. 하지만 2021년 2월 arXiv에는 이 "당연한" 분리에 의문을 제기하는 연구들이 눈에 띄게 많았습니다. 예측 모델의 오차를 줄이는 것이 곧 좋은 포트폴리오로 이어지지 않을 수 있다는 거죠.

이번 달에는 202편의 논문 중 90편이 시스템 트레이딩과 관련 있었고, 14편이 A등급 이상을 받았습니다. 그중 다섯 가지 흐름을 골라 살펴보겠습니다.

---

테마 1: 예측과 최적화를 한데 묶다

왜 분리가 문제일까요?

비유를 들어볼게요. 요리사가 재료 손질(예측)과 plating(포트폴리오 배분)을 따로 담당한다고 상상해 보세요. 손질 담당은 자기 기준대로 썰고, plating 담당은 그걸 받아서 접시에 놓죠. 손질한 재료가 "정확하게" 썰렸더라도, 그 모양이 최종 접시에 가장 예쁘게 놓이는 형태가 아닐 수 있습니다. 투자에서도 마찬가지입니다. 예측 오차(MSE)를 줄이는 방향으로 학습한 모델이, 실제 포트폴리오 비용을 최소화하는 방향과 다를 수 있다는 거죠.

핵심 논문: 예측을 MVO 안으로 끌어넣다

Butler와 Kwon의 논문(arXiv:2102.09287, A등급, Composite 76.2)은 이 문제를 정면으로 다룹니다.

어떻게 하나요? 기존에는 회귀 모델을 학습할 때 예측 오차(예: 평균제곱오차)를 최소화했죠. 이 논문은 그 대신 포트폴리오 최적화의 목적함수 자체를 회귀 모델의 손실함수로 사용합니다. 쉽게 말하면, "예측이 틀렸을 때 포트폴리오에 얼마나 큰 비용이 발생하는가"를 직접 줄이는 방향으로 모델을 학습시킵니다.

구체적으로 세 가지 경우를 다룹니다:

1. 제약 없는 MVO: 폐형식(종이로 풀 수 있는) 해를 제공합니다. 예측 계수와 포트폴리오 비중 사이의 관계를 수학적으로 명확하게 보여줍니다.
2. 등식 제약 MVO: 역시 폐형식 해가 존재합니다.
3. 부등식 제약 MVO: 실무에서 가장 흔한 이 경우는 폐형식이 안 되기 때문에, 신경망 아키텍처를 활용한 배치 이차계획(quadratic programming)으로 해결합니다.

결과가 어떤가요? 합성 데이터와 실제 글로벌 선물 시장 데이터 모두에서 통합 접근법이 기존 2단계 파이프라인을 일관되게 이겼습니다. 예측 오차가 줄어든다고 포트폴리오 성과가 반드시 좋아지지 않는다는 것을 실증적으로 보여준 셈입니다.

실무에 쓸 수 있나요? 네. 알파 예측 모델을 학습시킬 때 손실함수를 바꾸는 것만으로 적용 가능합니다. 제약 없는 간단한 MVO라면 폐형식 해를 바로 쓸 수 있고, 복잡한 제약이 있는 경우에도 신경망 기반 최적화 레이어를 추가하면 됩니다.

한계도 있죠. 신경망 최적화의 계산 비용이 아직 크고, 시장 환경이 바뀔 때 얼마나 강건한지에 대한 검증이 더 필요합니다.

이 테마의 다른 논문들

성과 귀속의 공정성: 한 포트폴리오의 성과가 여러 요소(알파 신호, 리스크 관리, 제약 조건 등)의 상호작용에서 나왔다면, 각 요소에 얼마큼의 성과를 돌려야 할까요? Maillard와 Roncalli는 Shapley 값(A등급, Composite 73.2)을 사용해 공정하고 완전한 성과 분해 방법을 제시합니다. 게임 이론에서 "가장 공평한 분배 방법"으로 알려진 Shapley 값을 투자 성과 분석에 적용한 것이죠.

공통 인사이트: 이 논문들은 공통적으로 "예측은 예측대로, 결정은 결정대로" 따로 최적화하는 것이 반드시 최선이 아님을 보여줍니다. 두 단계를 연결하면 더 좋은 결과가 나올 수 있다는 거죠.

---

테마 2: 밤에도 변동성은 움직인다

왜 야간 변동성이 중요할까요?

주식시장이 문을 닫는 밤 사이에도 세상은 돌아갑니다. 뉴스가 나오고, 해외시장이 움직이고, 선물이 거래됩니다. 그런데 대부분의 변동성 모델은 장중(개장~마감) 데이터만 사용합니다. 밤 사이의 변동성 변화를 무시하면 다음 날 아침의 리스크를 과소평가할 수 있습니다.

핵심 논문: 장중과 야간을 분리하다

Kim, Shin, Wang의 논문(arXiv:2102.13467, A등급, Composite 69.8)은 이 문제를 정면으로 다룹니다.

어떻게 하나요? 하루를 두 구간으로 나눕니다:

• 장중(open-to-close): 고빈도 거래 데이터로 실현변동성을 측정하고 GARCH-Itô 구조로 모델링합니다.
• 야간(close-to-open): 거래 데이터가 없으므로 별도의 변동성 과정을 도입합니다.

두 구간의 모수를 가장소제곱법(WLS)으로 동시에 추정하고, 추정량의 수렴 성질을 이론적으로 증명했습니다.

결과: 실제 거래 데이터에서 야간 변동성을 분리 모델링한 것이 기존 모델보다 하루 전체 변동성을 더 정확하게 예측했습니다. 특히 해외 뉴스나 이벤트가 발생한 날의 차이가 컸습니다.

실무에 쓸 수 있나요? 익일 변동성 예측, VaR 추정, 포지션 사이징에 바로 쓸 수 있습니다. 특히 갭 리스크(overnight gap risk)를 리스크 엔진에 반영할 때 유용합니다.

이 테마의 다른 논문들

경제상태별 변동성: 시장의 변동성이 레버리지 수준, 유동성, 거래량 등에 따라 달라진다는 것은 잘 알려져 있습니다. 하지만 이를 고빈도 데이터로 체계적으로 검정한 연구는 드뭅니다. State Heterogeneity Analysis(A등급, Composite 68.0)는 외생 경제상태별로 변동성 동학이 어떻게 다른지를 연속시간 GARCH-Itô 체계로 분석합니다.

딥러닝 변동성 모델: 전통적인 GARCH 계열 모델의 가정(선형성, 특정 분포)을 완화하고 싶다면? Deep Stochastic Volatility Model(B등급, Composite 63.2)은 딥 잠재변수 모형과 변분추론을 결합해 과거 수익률·변동성에 대한 비선형 반응을 자동으로 학습합니다.

공통 인사이트: 변동성은 하루 24시간 내내 움직입니다. 장중 데이터만으로는 전체 리스크를 포착할 수 없으며, 딥러닝과 전통 확률론을 결합하면 더 정밀한 예측이 가능합니다.

---

테마 3: 숏스퀴즈, 수학으로 설명할 수 있을까?

2021년 1월, 무슨 일이 있었나요?

2021년 1월 말, 게임스톱(GameStop) 주식이 폭발적으로 상승했습니다. 공매도 세력이 대거 숏 포지션을 잡고 있었는데, 개인 투자자들의 집중 매수로 주가가 급등하자 마진콜(추가 증거금 요구)이 발생했고, 강제 숏 커버링(공매도 물량을 되사야 하는 상황)이 또 다른 매수 압력으로 이어져 주가가 더 오르는 "양의 피드백 루프"가 만들어졌습니다. 이것이 바로 숏스퀴즈(short squeeze)입니다.

핵심 논문: 피드백 루프의 수학적 정식화

Feinstein의 논문(arXiv:2102.02176, A등급, Composite 73.2)은 이 현상을 수학적으로 모델링합니다.

핵심 발견: 마진콜로 인한 강제 매수 후의 가격을 명시적으로 유도하고, 임계 숏이자비율(threshold short interest ratio)을 도출합니다. 이 비율을 초과하면 피드백 루프로 인해 청산가격이 불연속적으로 점프합니다.

쉽게 말하면, 공매도 잔고가 일정 수준을 넘지 않으면 주가가 올라도 서서히 조정되지만, 그 수준을 넘는 순간 갑자기 "퐁당" 뛰어오른다는 것입니다. 실제 게임스톱 사태에서 관찰된 급등 패턴을 이론적으로 설명하는 셈입니다.

실무에 쓸 수 있나요? 공매도 잔고·대차/마진 조건·거래량 기반 시장충격 추정치를 결합하면, 숏스퀴즈 취약 종목의 이벤트 리스크 신호로 만들 수 있습니다.

이 테마의 다른 논문들

주문 데이터로 더 깊이 보기: LOB(Limit Order Book) 스냅샷만 보는 것이 아니라, 개별 주문·취소·큐 위치를 담은 MBO(Market by Order) 데이터를 분석하면 LOB과 저상관의 보완적 단기 가격신호를 얻을 수 있습니다. Deep Learning for MBO(A등급, Composite 65.4)는 이를 대규모 표본에서 실증합니다.

파생시장의 교차 영향: 주식 거래가 옵션 가격에, 옵션 거래가 주식 가격에 미치는 영향—즉 교차 영향(cross-impact)을 수학적으로 모델링한 연구(B등급, Composite 60.1)도 주목할 만합니다.

공통 인사이트: 거래 행위는 가격에 내생적 피드백을 만듭니다. 이 피드백을 수학적으로 정식화하면 리스크 신호로 활용할 수 있습니다.

---

테마 4: 강화학습, 수익률만 추구하면 위험하다

왜 안전이 중요할까요?

강화학습으로 투자 전략을 학습시킬 때, 보통 "총수익률을 최대화"하는 것이 목표입니다. 하지만 현실에서는 수익률의 평균만이 아니라 꼬리위험—극단적 손실 가능성—이 중요합니다. 2008년 금융위기처럼 "평균은 괜찮았지만 한 번에 큰 손실"이 나는 상황을 피해야 하니까요.

핵심 논문: 두 가지 불확실성에 동시에 대응하다

Rigter, Lacerda, Hawes의 논문(arXiv:2102.05762, A등급, Composite 68.0, NeurIPS 2021 수록)은 이 문제를 깊이 다룹니다.

두 가지 불확실성이 있습니다:

1. 모수 불확실성: 어떤 시장 환경(MDP)이 실제인지 모릅니다. 예를 들어 "변동성이 높은 국면"인지 "낮은 국면"인지 확실하지 않죠.
2. 내재 확률성: 같은 환경이라도 매번 결과가 다릅니다. 주가가 오를 수도 있고 내릴 수도 있죠.

이 논문은 이 두 불확실성을 하나의 CVaR(조건부 위험가치) 목적함수로 함께 다루는 프레임워크를 제시합니다.

어떻게 하나요? CVaR 최적화를 "두 명이 하는 확률 게임"으로 재정의합니다. 한 명은 수익률을 높이려 하고, 다른 한 명은 최악의 시나리오를 선택하는 것이죠. 이 게임의 균형 전략이 CVaR을 최적화하는 정책입니다. 풀이는 몬테카를로 트리 탐색(MCTS)과 베이지안 최적화를 결합합니다.

결과: 기준 방법들을 유의하게 능가하는 위험회피 성과를 보였습니다.

실무에 쓸 수 있나요? 시장 국면의 불확실성과 수익률 분포의 랜덤성을 함께 반영하는 위험회피형 포지션·리밸런싱 정책을 설계할 때 응용 가능합니다. 다만 금융 환경 특화 검증이 아직 부족합니다.

이 테마의 다른 논문들

안전 제약을 직접 학습에: Safe Distributional RL(B등급, Composite 64.4)은 CVaR·분산·손실확률 같은 위험 제약을 RL 학습 과정에서 직접 만족시키는 프레임워크를 제시합니다. 내부점 장벽(interior point barrier) 방법을 활용해 제약 위반 없이 학습합니다.

모듈형 멀티에이전트: MSPM(B등급, Composite 61.8)은 자산별 신호 생성(DQN)과 포트폴리오 배분(PPO)을 분리한 모듈형 구조를 제안합니다. 자산 수가 바뀌어도 모듈을 추가/제거하면 되므로 확장성이 좋습니다.

공통 인사이트: 강화학습에서 "수익률만 최대화"는 위험합니다. CVaR, 분산, 손실확률 같은 꼬리위험 지표를 학습 목표에 직접 넣어야 실제 운용에서 살아남을 수 있습니다.

---

테마 5: 팩터를 검정할 때, 거짓 발견을 어떻게 막을까?

왜 다중 가설이 문제일까요?

시그널 팩토리에서 수백~수천 개의 후보 팩터를 검정하면, 우연히 "유의미해 보이는" 팩터가 반드시 나옵니다. 동전을 1,000번 던지면 10번 연속 앞면이 나올 수도 있는 것과 같습니다. 이 문제를 다중 가설 검정(multiple hypothesis testing)이라 부르는데, 기존 방법들은 대부분 팩터들 사이의 상관관계를 무시하거나, 너무 보수적이어서 진짜 좋은 팩터까지 놓치는 문제가 있었습니다.

핵심 논문: 상관된 팩터 검정에서 발견력을 높이다

Komiyama 등(arXiv:2102.07826, A등급, Composite 71.1)의 논문은 이 문제를 다룹니다.

어떻게 하나요? 이중 부트스트랩(double bootstrapping) 절차를 제안합니다:

1. 첫 번째 부트스트랩: 팩터 간 상관구조를 추정합니다.
2. 두 번째 부트스트랩: 추정된 상관구조를 반영해 허위 발견률(FDR)을 통제합니다.

기존 방법(FDR 통제 방법 중 가장 보수적인 것)은 발견력이 낮았는데, 이 방법은 상관구조를 적극 활용하면서도 FDR을 이론적으로 보장합니다.

흥미로운 발견: Fama와 French의 저명한 팩터 연구 방법이 다중 가설 검정 하에서도 일관적(consistent)임을 이론적으로 보이기도 했습니다.

실무에 쓸 수 있나요? 대규모 시그널 팩토리의 후보 발굴·채택 단계에 바로 적용 가능합니다. 데이터 마이닝에 따른 허위 알파 편입을 줄여줍니다.

이 테마의 다른 논문들

위험을 제한한 페어 트레이딩: Bertram's Pairs Trading with Bounded Risk(B등급, Composite 64.6)는 OU(Ornstein-Uhlenbeck) 기반 페어 트레이딩의 진입·청산 임계값을 "수익률 대비 위험(volatility of profit)"을 제한하면서 최적화하는 방법을 제시합니다.

공통 인사이트: 팩터를 많이 검정할수록 거짓 발견 위험이 커집니다. 상관구조를 반영한 FDR 통제 방법을 쓰면 진짜 좋은 팩터를 놓치지 않으면서도 허위 발견을 줄일 수 있습니다.

---

2021년 2월, 한눈에 보기

이 달의 연구들을 관통하는 하나의 메시지가 있습니다: "분리된 파이프라인을 연결하라." 예측과 최적화를 통합하고, 장중과 야간 변동성을 합치고, 마진콜과 가격 피드백을 수학으로 엮고, RL 목표에 꼬리위험을 직접 넣고, 팩터 검정에 상관구조를 반영하는 — 모두 기존에 따로 처리하던 것들을 연결해서 더 좋은 결과를 만들려는 시도였습니다.

이 중 실무 적용이 가장 즉각적인 논문은 단연 예측-최적화 통합(2102.09287)입니다. 손실함수를 바꾸는 것만으로 기존 파이프라인을 개선할 수 있으니까요. 반면 가장 시의적절한 논문은 숏스퀴즈 이론화(2102.02176)입니다. 게임스톱 사태가 일어난 지 불과 몇 주 만에 나온 수학적 분석이니까요.

---

더 알아보기

이 달의 전체 S/A 등급 논문 14편과 상세 분석은 2102 백필 리포트에서 확인할 수 있습니다.

---

함께하기

• 🌐 ohselab.com — 최신 연구 소식과 분석
• 📬 구독하면 매달 이런 분석을 받아볼 수 있습니다
• 💬 궁금한 점이 있으시면 언제든 문의해 주세요