포트폴리오의 기초를 다시 쓰다 — 2024년 10월 AI 금융 연구 리뷰

투자에서 "계란을 한 바구니에 담지 말라"는 말은 다들 아실 겁니다. 그런데 그 바구니들의 움직임을 정확히 예측하지 못하면, 아무리 분산해도 소용이 없다는 것도 현실이죠. 이번 달(2024년 10월)에는 바로 그 "바구니들의 움직임을 더 정확히 파악하는 방법"에 대한 연구가 유독 많았습니다.

들어가며: 왜 포트폴리오 최적화가 여전히 어려운가

포트폴리오 최적화는 1952년 해리 마코위츠가 제안한 이래 70년 넘게 투자 이론의 근간이 되어 왔습니다. 간단히 말하면 "기대 수익과 위험(변동성)의 균형을 맞춰 자산 비중을 정하는 것"인데요, 이론은 우아하지만 현실에서는 늘 문제가 생깁니다.

핵심 병목은 공분산 행렬 추정입니다. 주식 500개의 상관관계를 정확히 추정하려면 과거 데이터가 충분해야 하는데, 현실에서는 관측치 수가 자산 수와 비슷하거나 적은 경우가 많습니다. 이러면 추정이 불안정해지고, 그 위에 세운 포트폴리오가 엉뚱하게 흔들리게 됩니다.

2024년 10월의 연구들은 이 문제를 여러 각도에서 공략합니다. 충격(이상치)에 강건하게 만드는 방법, 순위 기반 상관으로 추정 안정성을 높이는 방법, 그리고 불확실한 분포를 고려한 최적화까지 — 이번 달의 연구들은 공통적으로 "현실적 제약 하에서의 안정성"이라는 실전적 가치를 추구하고 있습니다.

---

테마 1: 포트폴리오의 뼈대를 다시 세우다

충격이 와도 흔들리지 않는 포트폴리오

시장에 큰 충격이 오면 — 팬데믹이 터지거나 금리가 급등하면 — 포트폴리오의 공분산 추정이 크게 흔들립니다. 기존 방법들은 이런 이상치(outlier)에 취약했는데, 퀑리앙 판(Qingliang Fan) 교수팀은 이 문제를 정면으로 다룬 논문을 발표했습니다. (2410.01826)

어떻게 해결했을까요? 핵심 아이디어는 간단합니다. 데이터에서 이상치가 보이면, 그 시점의 영향력을 자동으로 줄여주는 겁니다. 구체적으로는 Huber 손실함수라는 수학적 도구를 사용하는데, 쉽게 말하면 "보통 때는 정상적으로 계산하다가, 이상하게 큰 값이 나오면 알아서 무시하는" 방식입니다.

결과가 인상적입니다. S&P 500과 러셀 2000(소형주 2,000개)을 대상으로 2011~2019년 실증 분석을 한 결과, 기존 방법(POET, Ledoit-Wolf 등) 대비 가장 낮은 포트폴리오 리스크와 가장 낮은 최대 낙폭을 기록했습니다. 충격이 많은 구간에서 성능 격차가 특히 컸습니다.

상관관계를 '순위'로 추정하면 15% 더 안정적

포트폴리오 최적화에서 상관행렬 추정은 생명선입니다. 토마스 에스파냐(Tomas Espana) 팀은 여기서 기존의 피어슨 상관 대신 켄달(Kendall) 상관 — 순위 기반 상관 — 을 쓰면 어떨까 하는 질문을 던졌습니다. (2410.17366)

왜 순위일까요? 피어슨 상관은 원래 수익률 값을 직접 쓰는데, 관측치가 적으면 불안정합니다. 반면 켄달 상관은 "A가 B보다 올랐는지 내렸는지"라는 순위 정보만 사용합니다. 이렇게 하면 이상치의 영향이 줄어들고, 관측치가 적어도 안정적인 추정이 가능해집니다.

수치로 확인하면: 미국 주식 500개의 최소분산 포트폴리오에서 켄달 기반 방법의 연율 변동성이 33.24‰로, 기존 RIE 방법(38.92‰) 대비 약 15% 리스크 감소 효과를 보였습니다. 특히 자산 수 대비 관측치 비율이 높을수록(데이터가 부족할수록) 켄달 방법의 우위가 뚜렷했습니다.

실무적으로 중요한 점: 구현이 어렵지 않습니다. 기존 코드에서 상관행렬 추정 부분만 켄달 기반으로 바꾸면 되니까, 바로 적용해볼 수 있는 방법입니다.

---

테마 2: AI가 직접 매매한다 — 강화학습의 진화

종목 고르기와 실행하기를 나눠라

강화학습으로 주식을 사고파는 AI를 만들면, 보통 "어떤 종목을 얼마나 살까?"를 한꺼번에 학습합니다. 그런데 지에졔 자오(Zijie Zhao)와 로이 웰쉬(Roy Welsch)는 이걸 두 단계로 분리했습니다. (2410.14927)

• 상위 단계 (HLC): "이 종목을 살까, 팔까, 말까?" — 방향만 정합니다.
• 하위 단계 (LLC): "그 방향을 실제로 어떻게 실행할까?" — 거래비용과 리스크를 고려해 구체적 비중을 정합니다.

이 구조의 핵심은 희소성(sparsity)입니다. 상위 단계가 "사/팔/말" 중 하나만 고르니까, 불필요한 매매가 줄어듭니다. 결과적으로 일일 회전율이 9%에 불과합니다 — 실제 운용에서 슬리피지를 최소화할 수 있는 수준입니다.

성능을 수치로 보면:

거래비용이 50bps까지 올라가도 HRT의 샤프 비율은 0.80을 유지한 반면, 기존 방법들은 거의 0으로 떨어졌습니다. 한국 시장의 거래세(약 0.2%) 수준에서도 충분히 강건한 셈입니다.

흥미로운 점: 입력 신호에 LLM(대규모 언어 모델)이 분석한 뉴스 감성·리스크 점수가 포함됩니다. AI가 뉴스를 읽고, 그 정보로 종목을 고르고, 거래비용까지 고려해 실행하는 — 거의 사람 퀀트 트레이더의 역할을 AI가 대신하는 구조입니다.

딥 헤징도 더 빠르게

옵션 헤징에 강화학습을 쓰면 학습이 느린 문제가 있습니다. 특히 만기가 길거나 복잡한 옵션은 수렴에 오래 걸리죠. 이 문제를 2차 최적화 기법으로 해결한 연구도 나왔습니다. (2410.22568) 핵심은 그라디언트의 곡률(curvature) 정보를 활용해 더 빠르게 수렴하는 것입니다.

---

테마 3: 시장의 숨은 구조를 읽다 — 미시구조 연구

OTC 시장에서 AI가 가격을 정한다

회사채나 정부채처럼 거래가 뜸한 자산은 "이게 얼마짜리인지" 정확히 알기 어렵습니다. 거래가 드물어서 시장 가격 자체가 불투명하니까요. 이 문제를 다중 과제 학습(multi-task learning)으로 풀어보자는 연구가 나왔습니다. (2410.14839)

핵심 아이디어는 "거래가 없는 종목도, 비슷한 특성의 다른 종목 거래 데이터에서 가격 힌트를 얻을 수 있다"는 겁니다. 회사채 A의 가격을 정할 때, 비슷한 신용등급·업종·만기의 다른 채권 거래 정보를 활용하는 거죠. 이렇게 하면 개별 종목 데이터가 부족해도 학습이 가능합니다.

음수 가격도 OK인 마켓메이커

전력 시장에서는 전기가 남아돌면 가격이 음수가 됩니다. 그런데 기존의 자동화 마켓메이커(AMM)는 음수 가격을 처리하지 못했죠. 이를 해결한 집중형 초타원 마켓메이커(CCMM)가 제안되었습니다. (2410.13265)

이 연구는 단순히 "음수도 된다"는 것을 넘어, 유동성을 특정 가격 범위에 집중 배치하는 기법까지 제안합니다. 전력·에너지 시장뿐만 아니라, 일부 파생상품 시장에서도 바로 적용 가능한 구조입니다.

---

테마 4: AI가 경제를 읽는다 — 생성형 AI의 새로운 활용

12만 건의 실적 발표에서 경제를 예측하다

이번 달 가장 흥미로운 논문 중 하나입니다. 마니쉬 자(Manish Jha) 교수팀은 미국 상장기업 5,513개사의 분기별 실적 발표 콜 전사(transcript) 12만 건 이상을 ChatGPT로 분석했습니다. (2410.03897)

방법은 의외로 간단합니다. AI에게 매니저의 발언에서 "다음 분기 미국 경제에 대한 낙관도 변화"를 5단계(대폭 감소~대폭 증가)로 평가하게 했습니다. 이렇게 만들어진 AI Economy Score가 놀라운 예측력을 보였습니다.

핵심 수치를 보면:

• GDP 성장률 예측력이 기존 변수 대비 R² 약 4%p 증가
• 1표준편차 증가 시 다음 분기 GDP가 +1.38%p 증가
• GDP 예측 유효 기간: 기본 4분기, 복합 지표 기준 14분기 (약 3.5년!)
• 고용·임금 예측 유효 기간: 10분기 (약 2.5년)
• 단기 GDP 예측에서 전문가 설문(SPF)을 능가

투자에 어떤 의미일까요? 직접적인 매매 신호라기보다는, 경기·섹터 로테이션이나 탑다운 리스크 관리에 활용할 수 있는 대체데이터 팩터입니다. 예를 들어, AI Economy Score가 하락 추세면 방어적 자산배분으로 전환하는 규칙을 만들 수 있습니다.

재미있는 발견: 비관론자가 더 정확한 예측을 제공한다는 겁니다. "다음 분기 경기가 나빠질 것"이라고 말한 매니저의 예측이 실제로 더 맞았습니다. 투자에서는 낙관론자보다 비관론자의 말에 귀를 기울여야 할 수도 있겠습니다.

---

테마 5: 시장을 '순위'로 다시 보다 — 통계 차익거래의 새로운 관점

주식 시장을 분석할 때 보통 "삼성전자", "SK하이닉스" 같은 이름(종목명)으로 구분합니다. 그런데 이 관점이 항상 최선일까요? (2410.06568)

이 논문은 "종목 대신 시가총액 순위로 시장을 보자"는 제안을 합니다. 즉, "1위 종목", "2위 종목" 식으로 순위를 매기고, 그 순위 변화를 분석하는 겁니다.

왜 이게 더 좋을까요? 이름 공간에서는 개별 종목의 고유한 변동성(잡음)이 크지만, 순위 공간에서는 시장 전체의 구조적 패턴(신호)이 더 두드러집니다. 쉽게 말하면, "삼성전자가 오늘 2% 올랐다"보다 "시총 1위 종목이 2위를 따라잡았다"가 더 의미 있는 정보일 수 있다는 거죠.

실증 결과: 순위 공간 기반 전략이 거래비용 포함 후에도 더 나은 수익·위험 프로파일을 보였습니다. 특히 평균회귀 시간이 더 짧고 안정적이어서, 딥러닝 학습에 유리한 환경을 제공합니다.

---

그래서 투자/실무엔?

이번 달 연구들이 시사하는 바를 정리하면:

1. 공분산 추정을 업그레이드하라: 이상치에 강건한 방법(R-MVP)이나 켄달 상관으로 기존 리스크 모형을 개선하면, 포트폴리오 리스크를 10~15% 줄일 수 있습니다. 구현 난이도도 높지 않습니다.

2. RL은 계층 분리가 핵심: 강화학습 기반 트레이딩에서 종목 선별과 실행을 분리하면, 거래비용 관리와 턴오버 제어가 크게 개선됩니다. HRT의 샤프 비율 1.24는 인상적인 수치입니다.

3. 생성형 AI는 대체데이터의 새 시대: 컨퍼런스콜 텍스트에서 경제 선행 지표를 추출하는 것은 이제 현실입니다. 최대 3.5년까지 예측력을 보이는 AI Economy Score는 자산배분 전략의 새로운 입력값이 될 수 있습니다.

4. 시장 표상을 재고하라: 종목명 대신 순위로 시장을 바라보는 것만으로도 신호 대 잡음 비율이 개선됩니다.

---

함께하기

AI와 데이터 과학으로 투자 전략을 연구하는 ohselab과 함께하세요.

• 🌐 ohselab.com
• 📧 연구 소식 구독
• 💬 상담 문의

---

더 알아보기

이 달의 A등급 논문

점수 설명: N=참신성(Novelty), A=실용성(Applicability), R=엄밀성(Rigor), R=재현성(Reproducibility), I=통찰력(Insight). 각 100점 만점.

참고 논문

• Conformal Predictive Portfolio Selection — 컨포멀 예측 기반 포트폴리오 선택
• Multi-Task Dynamic Pricing in Credit Market — OTC 크레딧 시장 동적 가격결정
• Statistical Arbitrage in Rank Space — 순위 공간 기반 통계 차익거래
• Fast Deep Hedging — 2차 최적화로 빨라진 딥 헤징
• Concentrated Superelliptical Market Maker — 음수 가격 지원 AMM

---

이 글은 ohselab의 자동 평가 시스템이 선정한 2024년 10월 코호트(310편)의 리서치 리뷰입니다. 모든 논문은 arXiv 프리프린트로, 동료 심사(peer review) 전 상태일 수 있습니다.