크립토 백테스트가 거짓말하는 이유, 그리고 2025년 12월 퀀트 연구의 다섯 가지 흐름

한 달에 한 번, arXiv에 올라온 금융 AI 논문 중 가장 흥미로운 것들을 골라 쉽게 풀어드립니다.

---

들어가며: 왜 내 백테스트 수익률은 실전에서 안 나올까요?

"백테스트에서는 연 200% 수익이었는데, 실전에서는 마이너스네요."

크립토 퀀트를 공부하는 분들이라면 한 번쯤 들어봤을 법한 이야기입니다. 마치 요리 프로그램에서 셰프가 만든 음식을 집에서 따라 해 보면 전혀 다른 맛이 나는 것과 비슷합니다. 레시피는 똑같은데, 주방 환경이 다르니까요.

2025년 12월 arXiv에 올라온 논문들을 읽다가 문득 든 생각이 있습니다. "아, 학계도 이제 이 문제를 진지하게 파기 시작했구나." 크립토 파생상품의 백테스트가 왜 현실과 다른지, 그리고 포트폴리오·옵션·팩터·인공지능 영역에서 어떤 새로운 시도들이 나오고 있는지, 이 달의 다섯 가지 흐름으로 정리해 보겠습니다.

---

흐름 1. 크립토 파생상품 — 백테스트의 과대평가를 줄이는 전쟁

문제: 뭘 빠뜨리고 있었나요?

크립토 시장에서 가장 많이 거래되는 상품은 비트코인 현물이 아닙니다. 바로 퍼페추얼 선물(perpetual futures)이라는 파생상품입니다. 2024년에만 중앙화 거래소에서 약 58.5조 달러(약 7경 6천조 원) 규모의 퍼페추얼 선물이 거래되었는데, 이는 현물 거래량의 3.3배에 달합니다.

퍼페추얼 선물은 만기가 없는 선물 계약입니다. 대신 펀딩비(funding rate)라는 독특한 비용 구조를 갖고 있어서, 선물 가격이 현물 가격과 크게 벌어지지 않도록 일정 간격으로 돈을 주고받습니다. 여기에 거래 수수료, 슬리피지(slippage: 내가 원하는 가격과 실제 체결 가격의 차이), 실행 지연(execution delay: 신호가 발생한 후 실제로 주문이 나가기까지의 시간)까지 포함하면, 단순한 백테스트와 실전 사이에는 상당한 괴리가 생깁니다.

AutoQuant: "실행 제약을 반영한 자동 전략 튜닝"

AutoQuant(2512.22476, 알고리즘 트레이딩, 종합 75.4점)이라는 프레임워크는 이 문제를 정면으로 다룹니다.

쉽게 말하면, 기존 백테스트는 "다음 봉의 시가에 무조건 체결된다"고 가정하는 경우가 많습니다. 하지만 현실에서는 그 시그널을 감지하고 주문을 넣기까지 시간이 걸리고(실행 지연), 그 사이에 가격이 변합니다(슬리피지). 거기에 펀딩비와 수수료까지 빠지면 수익률은 확 줄어듭니다.

AutoQuant는 strict T+1 실행 규칙을 강제합니다. 오늘 발생한 신호는 내일 봉에서만 체결된다고 가정하는 것이죠. 그리고 펀딩비를 미래 정보 없이(no-look-ahead) 정확히 반영합니다. 이렇게 하면 백테스트 수익률이 훨씬 보수적으로(현실에 가깝게) 나옵니다.

또 한 가지 흥미로운 점은 2단계 스크리닝입니다. 1단계에서 베이지안 최적화로 수많은 전략 후보를 찾고, 2단계에서 엄격한 비용 조건 하에서 다시 검증합니다. 마치 채용에서 서류 전형(1차)과 면접(2차)을 거치는 것과 같습니다. 이렇게 하면 "서류에서는 완벽해 보이지만 실전에서는 실패하는" 전략을 사전에 걸러낼 수 있습니다.

실전 시사점: 크립토 퀀트 전략을 개발할 때, "이 정도 수수료 빼면 되겠지"가 아니라 실행 지연·펀딩·슬리피지를 모두 반영한 백테스트를 해야 합니다. AutoQuant 같은 프레임워크가 바로 그 목적에 맞게 설계되었습니다.

ADL: 거래소가 피할 수 없는 세 가지 딜레마

Autodeleveraging(2512.01112, 시장 미시구조, 종합 74.8점)은 퍼페추얼 선물의 "최후의 안전장치"인 ADL(자동 디레버리징)을 처음으로 수학적으로 분석한 논문입니다.

ADL이 뭘까요? 거래소에서 대규모 청산이 발생했을 때, 시장 유동성이 부족해 모든 주문을 제때 처리할 수 없는 상황이 올 수 있습니다. 이때 거래소는 손실을 "이긴 쪽"의 트레이더들에게 나눠 떠넘깁니다(손실 사회화). 이게 바로 ADL입니다.

이 논문은 놀라운 결론을 증명했습니다. 어떤 ADL 정책도 세 가지를 동시에 만족시킬 수 없다는 것입니다:

1. 거래소 지급능력 보장: 거래소가 파산하지 않는다.
2. 개별 합리성: 각 트레이더에게 공정하다.
3. 예산 균형: 손실이 정확히 분배된다.

마치 "좋고, 싸고, 빠른" 세 가지를 동시에 만족시킬 수 없는 것과 같은 구조적 한계입니다.

2024년 퍼페추얼 선물 거래량이 60조 달러를 넘는 시장에서, 이 같은 근본적 한계를 이해하는 것은 거래소 설계자와 리스크 관리자 모두에게 필수적입니다.

---

흐름 2. 포트폴리오 최적화 — 적게 담고, 불확실성도 알자

포트폴리오를 구성할 때 흔히 드는 고민이 있습니다. "500개 종목을 다 담을 수 없으니, 적은 수의 종목으로 비슷한 수익을 내고 싶다." 이게 바로 인덱스 추종(index tracking) 문제입니다.

베이지안 희소 포트폴리오: "몇 개 종목이면 충분한지, 확률로 말해줍니다"

Index-Tracking Portfolio Construction(2512.22109, 포트폴리오 최적화, 종합 72.3점)은 이 문제에 베이지안 접근법을 적용합니다.

기존 방법은 "20개 종목을 골라라"라고 미리 정해놓고 최적화합니다. 하지만 이 논문은 다릅니다. 베이지안 희소 사전(spike-and-slab prior)이라는 수학적 도구를 사용해서, 데이터가 스스로 "몇 개 종목이 적절한지"를 결정하게 합니다. 마치 요리사가 "소금을 이만큼 넣어라"라고 미리 정하는 대신, 조금씩 넣어가며 맛을 보는 것과 같습니다.

더 중요한 점은 불확실성을 정량화한다는 것입니다. "이 포트폴리오의 추적 오차는 15bp(0.15%)다"라고 말하는 대신, "추적 오차는 10~20bp 사이일 확률이 95%다"라고 말할 수 있습니다. 투자 의사결정에서 이 차이는 매우 큽니다.

공분산 행렬의 품질이 수익률을 좌우한다

포트폴리오 최적화의 또 다른 숨은 난제는 공분산 행렬 추정입니다. 주식 100개의 공분산 행렬은 100×100 = 10,000개의 원소를 추정해야 하는데, 관측 데이터가 충분하지 않으면 추정치가 불안정해집니다. 마치 동전을 3번 던져서 "앞면이 67% 나온다"고 결론짓는 것과 비슷한 문제가 발생합니다.

Squeezed Covariance Matrix Estimation(2512.23021, 포트폴리오 최적화, 종합 70.3점)은 이 문제를 해결하는 새로운 방법을 제시합니다. 핵심 아이디어는 공분산 행렬의 고유값(eigenvalue)을 분석적으로 제어해서, 행렬이 항상 "양의 준정부호성(positive semidefinite)"을 만족하도록 보장하는 것입니다. 쉽게 말하면, "수학적으로 말이 되는 공분산 행렬"을 만드는 것이죠.

이 밖에도 LLM을 활용해 거시경제 스트레스 시나리오를 자동으로 생성하고 이를 포트폴리오 손실로 연결하는 연구(2512.07867), 기존 몬테카를로 코드를 바꾸지 않고 오버레이 형태로 붙여서 모델 독립적 가격 결정을 하는 프레임워크(2512.15718) 등, 포트폴리오 최적화의 실무적 난제들을 해결하려는 다양한 시도가 동시다발적으로 등장했습니다.

---

흐름 3. 옵션 가격 표면 — 노이즈 속에서 무차익을 보장하기

옵션 트레이딩에서 가장 기본적인 도구 중 하나가 변동성 표면(volatility surface)입니다. 행사가격(strike)과 만기(maturity)에 따라 옵션 가격이 어떻게 변하는지를 한눈에 보여주는 3차원 표면이죠.

문제는 시장에서 관찰되는 호가(bid-ask quote)에 노이즈가 많다는 것입니다. 이 노이즈가 포함된 데이터로 변동성 표면을 만들면, 수학적으로 "차익거래 기회"가 존재하는 모순된 표면이 나올 수 있습니다. 현실에서는 이런 차익거래 기회가 순식간에 사라지기 때문에, 이론적으로 올바른(무차익) 표면을 만드는 것이 중요합니다.

체비쇼프 기저로 무차익 표면 만들기

Arbitrage-Free Option Price Surfaces(2512.01967, 시계열 계량경제학, 종합 71.8점)는 체비쇼프(Chebyshev)라는 수학적 도구를 사용해 이 문제를 해결합니다.

체비쇼프 다항식은 함수를 근사할 때 자주 사용하는 도구인데, 이 논문에서는 옵션 가격 표면을 체비쇼프 텐서 기저 위에 표현합니다. 그리고 정적 무차익(static no-arbitrage) 조건을 선형 부등식(linear inequality)으로 강제합니다. 쉽게 말하면, "이 표면 위에서는 어떤 조합으로든 차익거래가 불가능하다"는 것을 수학적으로 보장하는 것이죠.

또한 Hamiltonian Fog라는 후처리 기법을 사용해 수치적 안정성을 확보합니다. 마치 그림을 그린 후 바니시를 칠해 보존하는 것과 비슷한 역할입니다.

실전 시사점: 기관 트레이딩 데스크에서 노이즈가 큰 호가 데이터로 변동성 표면을 만들 때, 이 방법론을 적용하면 "수학적으로 올바르면서도 시장 데이터에 충실한" 표면을 얻을 수 있습니다. 델타/감마 헤지나 변동성 스큐 분석에 바로 활용 가능합니다.

---

흐름 4. 팩터 알파는 왜 사라질까? — 하이퍼볼릭 붕괴의 발견

팩터 투자의 숨겨진 비용: 알파 소멸

가치주(value), 모멘텀(momentum), 퀄리티(quality) 같은 팩터 전략은 오랜 기간 초과 수익(알파)을 제공해 왈습니다. 하지만 시간이 지나면서 이 알파가 줄어드는 현상, 즉 알파 붕괴(alpha decay)가 관찰됩니다. 왜 그럴까요?

Not All Factors Crowd Equally(2512.11913, 팩터 투자, 종합 71.3점)는 이 질문에 게임 이론적 답변을 제시합니다.

핵심 발견은 이렇습니다. 팩터 알파의 붕괴 속도는 하이퍼볼릭 함수로 설명된다는 것입니다. 수식으로 쓰면 알파(t) = K / (1 + λ × t)인데, 쉽게 말하면 "처음에는 빠르게 줄어들다가 나중에는 천천히 줄어든다"는 모양입니다. 마치 학교 앞 빵집이 처음에는 학생들로 북적북적하지만, 시간이 지나면 단골만 남는 것과 비슷합니다.

더 흥미로운 발견은 모든 팩터가 똑같이 붕괴하지 않는다는 것입니다:

• 모멘텀 팩터: 하이퍼볼릭 붕괴가뚜렷(R² = 0.65). 많은 트레이더가 비슷한 전략을 쓰면서 알파가 빠르게 소멸됩니다.
• 수익성(Profitability) 팩터: 붕괴 속도가 훨씬 느림. 덜 알려지고 덜 복제되기 때문입니다.

실전 시사점: 모멘텀 전략을 쓰면 리밸런싱 주기를 짧게 가져가야 합니다. 반면 가치·수익성 팩터는 상대적으로 긴 주기로 운용해도 됩니다. 팩터별로 "수명"이 다르다는 것을 인지하고, 그에 맞는 운용 전략을 세워야 합니다.

---

흐름 5. 강화학습 — 포트폴리오 관리의 새로운 도구

연속시간에서의 의사결정

포트폴리오 관리는本质上 "매 순간 어떤 비율로 자산을 배분할 것인가"라는 연속적인 의사결정 문제입니다. 전통적으로는 수학적 최적화(예: 평균-분산 최적화)로 풀었지만, 최근에는 강화학습(RL)이 새로운 도구로 떠오르고 있습니다.

2512 코호트에서 특히 주목할 만한 논문들이 있습니다.

Robust Bayesian Dynamic Programming(2512.24580, 강화학습 포트폴리오 관리, 종합 67.8점)은 전이 불확실성(transition uncertainty)과 비용/상태 리스크를 분리한 이중 위험측도 기반의 강건 RL 프레임워크를 제시합니다. 쉽게 말하면, "미래가 불확실하더라도 안정적으로 작동하는 투자 전략을 학습시키는" 방법입니다.

Deep Hedging with Reinforcement Learning(2512.12420, 강화학습 포트폴리오 관리, 종합 66.1점)은 옵션 델타 헤지를 RL로 학습합니다. 거래비용과 포지션 제한을 반영해, 실제 운용에 가까운 환경에서 헤지 전략을 최적화합니다.

이 논문들의 공통적인 방향은 "이론적으로 깔끔한"보다 "실전에서 작동하는" RL을 추구한다는 것입니다. 거래비용, 포지션 제한, 꼬리위험 같은 현실적 제약을 모델에 반영하려는 시도가 활발합니다.

---

마무리: "수학적 엄밀성"과 "실전 적용성"이 만나는 시대

2025년 12월의 다섯 가지 흐름을 관통하는 하나의 메시지가 있습니다. 퀀트 연구가 "이론적 이상"과 "실전 현실" 사이의 간극을 메우고 있다는 것입니다.

• 크립토 백테스트에서 실행 제약을 반영하고
• 포트폴리오에서 불확실성을 정량화하고
• 옵션 표면에서 무차익을 보장하고
• 팩터 알파의 소멸 속도를 추정하고
• RL 정책의 강건성을 확보하는

이 모든 것이 "수학적으로 엄밀하면서도 실전에 적용 가능한" 프레임워크를 만들려는 노력의 일환입니다.

한 가지 확실한 것은, "백테스트에서 잘 나왔으니 실전에서도 되겠지"라는 안일한 생각은 이제 통하지 않는다는 것입니다. 2025년 12월의 연구가 우리에게 말해주는 교훈입니다.

---

함께하기

퀀트 투자와 금융 AI에 관심이 있으시다면:

• 📬 구독: ohselab.com에서 최신 논문 분석을 받아보세요
• 💬 상담: 퀀트 전략 개발이나 시스템 트레이딩에 대해
• 🐦 팔로우: 최신 연구 동향을 실시간으로 확인하세요

---

더 알아보기

이 글에서 다룬 논문들의 arXiv 링크입니다:

5차원 평가 참고: 위 논문들은 ohse-lab/system-trading KB의 5차원 평가 기준(新颖性, 실용성, 엄밀성, 재현가능성, 통찰력)에 따라 종합 점수를 산출했습니다. 자세한 평가 기준은 KB 문서를 참고해 주세요.

---

이 글은 2025년 12월 arXiv에 공개된 금융 AI·퀀트 연구 논문 531편 중 관련 논문 214편을 분석한 결과입니다. ohse-lab/system-trading KB의 2512 코호트 데이터를 기반으로 작성되었습니다.