Ohse AI LabOHSE AI LAB
추세추종 전략의 EWM 포트폴리오 누적 PnL과 붕괴 전후 연율 샤프 비율 비교 그림
🤖 AI 연구

정확한 예측이 돈이 안 되는 이유 — 2026년 7월 AI 금융 연구 하이라이트

오세에이아이연구소··26분 읽기

정확한 예측이 돈이 안 되는 이유 — 2026년 7월 AI 금융 연구 하이라이트

매달 arXiv에는 수백 편의 금융·AI 논문이 쏟아집니다. 그중에서 정말 실무에 도움이 될 만한 것들을 골라, 다섯 가지 테마로 정리했습니다. 이번 달 키워드: "정밀한 도구와 정직한 검증".


들어가며: 모델이 맞아도 돈이 안 된다면?

여러분은 어떤 투자 전략을 짤 때 "정확도가 높으면 되지 않을까?"라고 생각한 적이 있으신가요? 자연스러운 생각입니다. 주가 방향을 80% 맞추는 모델이 있다면, 당연히 돈을 벌 수 있을 것 같죠.

하지만 2026년 7월에 올라온 논문 한 페이 이 믿음을 정면으로 뒤집었습니다. 높은 AUC(모델의 예측 능력을 나타내는 지표)를 자랑하던 모델이 실제 매매 시뮬레이션에서는 돈을 잃었다는 결과입니다. 그것도 조금이 아니라, 단순히 사서 들고 있는 것보다 더 많이요.

이번 달에는 이 "정직한 검증" 정신을 중심으로, 시장의 가격이 어떻게 움직이는지(미시구조), 포트폴리오를 어떻게 묶고 지킬지(최적화), 미래 불확실성을 어떻게 읽을지(변동성), 그리고 200년 된 투자 전략이 왜 갑자기 망했는지(추세추종)까지 다섯 가지 이야기를 풀어보겠습니다.


첫 번째 이야기: 높은 AUC가 돈이 안 되는 이유 — 백테스트 감사

문제: 예측은 정확한데 수익은 없는 모델

암호화폐 시장에서 캔들차트(OHLCV 데이터)를 보고 "이 가격이 곧 오를 것이다/내릴 것이다"를 예측하는 머신러닝 모델은 많습니다. ROC AUC가 0.87~0.90이라면 꽤 잘 맞추는 셈이죠.

그런데 이 모델로 실제 바이낸스 스팟에서 매매 정책을 만들면 어떻게 될까요?

그림: 극값 예측 모델들의 성능 분포. 가로축은 '평균 사이클 이익(bps)', 세로축은 '평균 정밀도'. 마커 크기는 표본 수를 나타낸다. 높은 정밀도를 가진 모델들도 대부분 21bps 수수료 기준선 아래에 머물러 있다.

충격적인 결과

한 연구팀이 이 질문에 답하기 위해 정밀 감사(audit)를 실시했습니다. 고정된 시드(난수를 고정해 결과를 재현 가능하게 만드는 것)로 모델을 실행하고, 결정론적 시뮬레이터로 매매를 시뮬레이션했죠.

핵심 수치를 볼까요:

  • 10개 페어 일일 선택기: 19일 동안 6.72% 손실 (3승 16패). 수수료로 사이클당 31bps(0.31%)를 가정했는데, 이것만으로도 수익을 잡아먹었습니다.
  • 최적 매수 시점 정책: 평균 이익이 11.11bps였지만, 수수료 기준(21bps)의 절반 수준.
  • Gurgul 모델: ROC AUC 0.8740.896이라는 높은 예측력을 보였지만, 평균 정밀도(실제로 맞춘 비중)는 0.1340.116에 불과했고, 7일 동안 44.30% 손실. 단순히 사서 들고 있었다면 41.20%만 잃었을 겁니다.

쉽게 말하면, "모델이 방향을 잘 맞추는 것처럼 보여도, 수수료를 빼면 오히려 손해"라는 뜻입니다.

왜 이런 일이 생길까?

이 논문이 특히 흥미로운 점은 포렌식 감사도 함께 했다는 것입니다. 이전에 유망했던 "30일 홀드아웃" 결과를 조사해 보니:

  • 홀드아웃 기간의 날짜가 이미 사전 학습에 사용되고 있었고(데이터 누수)
  • 4시간 예측 지평이 분할 경계에서 제거되지 않았으며
  • 같은 시점 종가로 진입하는 flawed한 방식이었고
  • 원시 결과 파일조차 없었습니다.

이건 비단 이 논문만의 문제가 아닙니다. "정확도가 높다"는 것과 "돈을 번다"는 것 사이에는 수수료, 슬리피지, 데이터 누수, 평가 구간 분리라는 거대한 간극이 있습니다.

실무에선 어떻게 해야 할까?

이 논문의 저자는 모든 매매 결정을 NO_TRADE(매매 안 함)로 유지했습니다. 이게 정직한 접근입니다. 여러분이 단기 예측 모델을 검증할 때 반드시 확인해야 할 것:

  1. 수수료·슬리피지를 반영한 후에도 수익이 나는가? (AUC만 보지 말 것)
  2. 홀드아웃 데이터가 정말로 학습에 사용되지 않았는가?
  3. 진입 시점이 미래 정보를 포함하고 있지는 않은가?
  4. 원시 결과가 보존되어 재현 가능한가?

📄 논문: Predictive Extrema, Unprofitable Policies | 등급: A | 5차원: 신규성 72, 실용성 78, 엄밀성 84, 재현성 68, 통찰력 86


두 번째 이야기: " 미래가 현재에 영향을 미치지 않는다" — 백테스트의 형식적 검증

룩어헤드 바이어스: 가장 흔하고 치명적인 실수

백테스트(과거 데이터로 전략을 시뮬레이션하는 것)에서 가장 위험한 오류는 룩어헤드 바이어스입니다. 말 그대로 "앞을 미리 본"다는 뜻인데, 결정을 내리는 시점에 아직 알 수 없는 미래 정보가 몰래 들어가는 것입니다.

예를 들어, 오늘 종가로 매매 결정을 내리면서 내일 종가를 이미 알고 있다면? 당연히 수익률이 높겠죠. 하지만 현실에서는 내일 종가를 알 수 없습니다.

기존에는 이 문제를 "규칙별로" 해결했습니다. 윈도우 함수를 쓰고, 리샘플링을 하고, 포인트인타임 데이터를 쓰는 식이죠. 각각의 채널에서.sound하지만, 전체 파이프라인의 무결성을 보장하지는 못합니다.

새로운 접근: 형식적 검증

이 논문은 룩어헤드 바이어스를 형식적 속성으로 재정의합니다:

"고정된 시점에서, 미래가 현재에 영향을 미치지 않는다는 요구는 시간적 비간섭(temporal non-interference)이다."

이건 보안 분야에서 쓰는 개념인데, 시계열 데이터 파이프라인에 적용한 것입니다. 놀라운 결과 두 가지:

  1. 값에 의존하는 누수(예: 특정 가격이 되면 다른 데이터가 공개되는 경우)는 판정 불가능(Π₀¹-hard)입니다. 누수를 찾는 것은 가능하지만, "누수가 없다"고 증명하는 것은 불가능합니다.

  2. 값에 무관한 분석(윈도우, 리샘플링, 조인, 포인트인타임 읽기, 에이전틱 검색 등)에서는 선형 시간에 검증 가능합니다.

이 두 번째 결과가 실무적으로 중요합니다. 대부분의 전통적 백테스트 파이프라인은 "값에 무관한" 분석에 해당하므로, 자동으로 룩어헤드 바이어스를 검증할 수 있는 도구를 만들 수 있다는 뜻입니다.

실무에선 어떻게 해야 할까?

자체 개발한 백테스트 시스템이 있다면, "값에 의존하는 누수" 채널이 있는지 점검하세요. 없다면 선형 시간 검증기가 여러분의 파이프라인을 자동으로 검증해 줄 수 있습니다. 있다면, 수동 검증이 필요합니다.

📄 논문: Look-Ahead-Freedom as Temporal Non-Interference | 등급: A | 5차원: 신규성 78, 실용성 84, 엄밀성 72, 재현성 58, 통찰력 86


세 번째 이야기: 가격은 어떻게 움직이는가 — 시장 충격의 반사실적 추정

"내 매매가 없었더라면 가격이 어땠을까?"

대량의 주식을 사거나 팔면, 그 행위 자체가 가격을 움직입니다. 이를 시장 충격(market impact)이라고 합니다. 문제는 이 충격을 정확히 측정하려면 "내 매매가 없었더라면 가격이 어떻게 됐을지를 알아야 하는데, 그것은 관찰할 수 없다"는 것입니다.

그림: 호크스 과정(Hawkes process)의 충격 교란 시뮬레이션. 왼쪽은 관측된 기본 과정, 오른쪽은 추가 주문의 영향을 받은 반사실적 경로를 보여준다. 동일한 포아슨 잡음 하에서 두 경로가 어떻게 갈라지는지를 시각화한다.

새로운 수학적 도구

이 논문은 점과정의 조건부 시뮬레이션이라는 수학적 도구를 제시합니다. 핵심 아이디어는:

시장에서 일어나는 모든 거래(주문, 체결, 취소)를 "점(이벤트)"으로 모델링합니다. 이 점들이 발생하는 패턴을 "강도(intensity)"로 표현하죠. 논문은 "관측된 거래 패턴의 랜덤성을 고정한 채, 다른 전략을 썼더라면 어떤 거래가 일어났을지를 정확히 시뮬레이션"하는 알고리즘을 만듭니다.

쉽게 말하면, "같은 날씨 조건에서 다른 우산을 썼더라면 젖었을까?"를 정확히 계산할 수 있는 것입니다.

왜 중요한가?

이 방법이 없을 때는 시장 충격을 추정할 때 평균값에 의존했습니다. "보통 이런 식으로 가격이 움직인다"는 통계였죠. 이 논문은 단일 실현 경로에 대해 정확한 조건부 추정을 제공합니다. 실행 알고리즘(VWAP, TWAP 등)의 성능 평가, 슬리피지 분해, 최적 실행 전략 설계에 바로 쓸 수 있는 도구입니다.

📄 논문: Exact Conditional Simulation of Point Processes | 등급: A | 5차원: 신규성 78, 실용성 72, 엄밀성 84, 재현성 58, 통찰력 81


네 번째 이야기: 포트폴리오를 더 똑똑하게 — 인과 분리와 조건부 리스크

"왜 자산들이 함께 움직이는가?"

포트폴리오를 만들 때 가장 중요한 질문 중 하나는 "자산 간 상관관계"입니다. 그런데 이 상관관계가 항상 같은 것은 아닙니다. 특정 상황(금리 변동, 유가 충격 등)에서는 자산들이 함께 움직이고, 다른 상황에서는 독립적으로 움직이죠.

인과 분리: 하나의 구조적 가정

이 논문은 인과 분리(causal separation)라는 개념을 제안합니다:

"투자 기간에 걸쳐 선언된 드라이버(예: 금리, 유가 등)의 실현 경로가 주어지면, 자산 수익률은 서로 독립이다."

이 한 가정에서 놀라운 결과가 따라옵니다:

  • 공분산 구조: 대각 행렬 + 저랭크 행렬의 합으로 분해됩니다. 저랭크 부분은 드라이버의 영향을 받는 부분이죠.
  • 최적 포트폴리오: 닫힌형(수식으로 직접 계산 가능한) 해가 존재합니다.
  • 추정 정규화: 분리자는 "이분산 바닥"을 통해 추정 오차를 줄여줍니다.

그림: 추정 위험 분석. 왼쪽은 표본 수(n)에 따른 OOS 연율 변동성(로그 스케일). 오른쪽은 분산 보정 결과. 구조화된 추정기(인과 분리 기반)가 점선 위에 머물러 있어 보정이 정확함을 보여준다.

실무에선 어떻게 해야 할까?

기존 평균-분산 최적화의 가장 큰 문제 중 하나는 공분산 행렬의 추정 오차입니다. 수백 개 자산의 공분산을 추정하려면 엄청난 표본이 필요하죠. 인과 분리는 "드라이버가 설명하는 부분"과 "고유 잡음"을 분리해 추정 문제를 단순화합니다.

"어떤 변수가 자산 수익률을 독립적으로 만드는가?"를 체계적으로 찾는 프레임워크를 제공한다는 점에서, 리스크 패리티나 제약 최적화에 바로 접목할 수 있습니다.

📄 논문: Causal Separation, Conditional Risk, and Projected Markowitz Portfolios | 등급: A | 5차원: 신규성 78, 실용성 72, 엄밀성 74, 재현성 42, 통찰력 81


다섯 번째 이야기: 200년 된 전략이 2009년에 망한 이유 — 추세추종의 붕괴

추세추종: 가장 오래된 투자 전략

"가격이 오르면 사고, 내리면 파는" 추세추종(trend following)은 최소 200년 동안 평균적으로 수익을 내온 전략입니다. CTA(Commodity Trading Advisor)라고 불리는 헤지펀드들이 주로 사용하며, 선물 시장에서 특히 활발합니다.

그런데 약 2009년부터, 단기 추세추종이 신뢰할 수 있는 수익을 내지 못하게 되었습니다.

왜일까요?

네 가지 가설, 그리고 진짜 원인

연구팀은 약 100개 유동성 선물 계약(1995-2025년)을 분석하며 네 가지 가설을 검증했습니다:

  1. 용량 제약: 너무 많은 자금이 추세추종에 몰려서 수익이 감소했다? → 시기와 크기가 맞지 않음.
  2. 시장 전자화: 전자 거래가 늘어서 추세가 사라졌다? → 자산군별 차이를 설명하지 못함.
  3. CTA-주문흐름 상호작용 변화: CTA의 행동이 시장을 바꿨다? → 역시 단면 이질성을 설명 못 함.
  4. 미시구조적 메커니즘: 호가창의 밀도와 관련이 있다? → 이것이 정답.

결정적 발견: 틱 크기의 비밀

그림: 다양한 빠른 스케일(τ)의 EWM 포트폴리오 누적 PnL. 왼쪽은 1950-2025 전체, 오른쪽은 붕괴 전후의 연율 샤프 비율. 빠른 신호일수록 2009년 이후 성능이 급격히 하락한 반면, 느린 신호는 상대적으로 intact하다.

핵심 변수는 변동성 정규화 틱 크기(volatility-normalised tick size)였습니다:

  • 소틱 계약(호가 단위가 작은 계약, 희박한 호가창): 2009년 이후 추세 수익이 모든 신호 속도에서 붕괴.
  • 대틱 계약(호가 단위가 큰 계약, 조밀한 호가창): 추세 수익이 본질적으로 유지.

자산군이나 유동성으로는 이 차이를 설명할 수 없었습니다.

메커니즘: 자기충족적 루프의 붕괴

연구팀이 제안하는 설명은 이렇습니다:

추세 신호 → 방향성 거래 → 시장 충격 → 가격 움직임 강화 → 추세 신호 확인

자기충족적 피드백 루프가 추세추종의 수익원이었습니다. 그런데 위기 이후 HFT(고빈도 매매) 주도 시장 조성으로 전환되면서:

  • 소틱 계약에서 HFT가 예측 가능한 방향성 흐름에 대해 유동성을 철회 → 루프 파괴
  • 대틱 계약에서는 잔여 유동성이 충분 → 루프 유지

실무에선 어떻게 해야 할까?

CTA나 선물 기반 추세 전략을 운용한다면:

  • 틱 크기라는 새로운 변수를 고려하세요. 소틱 계약에서 단기 추세를 추종하는 것은 구조적으로 불리해졌습니다.
  • 중장기 신호대틱 계약으로 방향을 전환할 필요가 있습니다.
  • "추세추종이 망했다"가 아니라, "어떤 환경에서 추세추종이 작동하는가"를 재설계해야 합니다.

📄 논문: Is Trend Still Your Friend? | 등급: A | 5차원: 신규성 72, 실용성 84, 엄밀성 78, 재현성 52, 통찰력 86


이번 달의 다른 주목할 논문들

DeFi와 전통 시장의 미시구조 융합

이번 달에는 DeFi(탈중앙화 금융)와 전통 시장을 같은 수학적 프레임으로 다루는 논문이 특히 많았습니다:

감성분석의 비용 효율화

TriAgent: 문장·단어·LLM을 계층적으로 배치하고, 의미적 발산 지수(SDI)로 라우팅해 금융 감성분석 비용을 크게 줄이면서도 성능을 유지. 대부분의 요청은 간단한 모델로 처리하고, 어려운 것만 고비용 모델에 보내는 구조입니다.

변동성 예측의 새로운 기준

시계열 파운데이션 모델과 변동성 예측: VOLARE 데이터셋에서 9개 제로샷 TSFM과 8개 전통 모델을 비교. TSFM이일부 지평에서 HAR 계열과 경쟁력 있지만, 모든 지평에서 일관되게 우위를 점하지는 못합니다.

그림: 50개 자산에 걸친 QLIKE 비율(모델/HAR) 분포. 1보다 아래면 모델이 HAR을 이긴 것. 박스는 사분위 범위, 점선은 HAR과의 동점선. TSFM과 HAR이 지평에 따라 서로 다른 환경에서 강점을 보인다.


마무리: 정밀함과 정직함

2026년 7월의 연구를 관통하는 메시지는 분명합니다:

"정확한 도구를 만들되, 그 한계도 정직하게 인정하라."

시장 충격 추정, 포트폴리오 공분산 분해, 변동성 예측 등 수학적 도구의 정밀도는 계속 올라가고 있습니다. 동시에 "AUC가 높아도 돈이 안 된다", "틱 크기가 추세를 살리고 죽인다", "방향 정확도는 베이스레이트로 부풀려질 수 있다" 등 기존 믿음에 대한 정직한 검증도 이어지고 있습니다.

특히 인상적인 점은 DeFi와 전통 시장이 동일한 수학적 프레임으로 다루어지고 있다는 것입니다. 두 세계의 융합이 가속화되고 있음을 7월 연구가 선명하게 보여줍니다.

투자 전략을 만들 때, "이 모델이 맞을까?"보다 "이 모델이 틀렸을 때 무엇이 빠졌는가?"를 먼저 묻는 습관이 필요합니다. 이번 달 논문들이 그 습관을 길러주는 좋은 자료가 되기를 바랍니다.


함께하기

  • 🌐 ohselab.com — 연구·상담·구독
  • 📬 뉴스레터 구독으로 매달 최신 논문 요약을 받아보세요
  • 🐦 팔로우로 실시간 연구 소식을 확인하세요

더 알아보기

이 글에서 다룬 논문들의 arXiv 링크입니다:

테마논문링크
검증Predictive Extrema, Unprofitable PoliciesarXiv:2607.19453
검증Look-Ahead-Freedom as Temporal Non-InterferencearXiv:2607.04958
검증When Directional Accuracy LiesarXiv:2607.12248
미시구조Exact Conditional Simulation of Point ProcessesarXiv:2607.03239
미시구조Coordinated Sniper Cohorts on Pump.funarXiv:2607.02795
미시구조Causal Effects of Protocol-Fee Changes on AMMarXiv:2607.08525
포트폴리오Causal Separation, Conditional Risk, MarkowitzarXiv:2607.05320
포트폴리오Portfolio Optimization under Fast/Slow Latent DriftarXiv:2607.01705
포트폴리오Minimizing Benchmark-Relative Drawdown DurationarXiv:2607.11335
변동성Forecasting Realized Volatility with TSFMarXiv:2607.05291
변동성Estimating the SDF from Option PricesarXiv:2607.08500
변동성Arbitrage-Free Multi-Maturity Risk-Neutral MarginalsarXiv:2607.06204
추세추종Is Trend Still Your Friend?arXiv:2607.01550
추세추종EVOQUANT: Self-Evolving Strategy OptimizationarXiv:2607.12455
추세추종End-to-End Parametric Portfolio PoliciesarXiv:2607.00475

AI 기술이 궁금하신가요?

오세에이아이연구소의 AI 연구와 제품에 대해 문의해주세요.

문의하기

관련 글