AI가 주식을 '읽는' 법: 100년치 수익률로 배우는 생성형 모델, 그리고 DeFi 유동성의 숨겨진 비밀

"주가를 문장처럼 읽는 AI가 등장했다면?"

---

들어가며: 숫자에도 문법이 있다

하루 아침에 일어나면 스마트폰을 열어 어젯밤 미국 증시를 확인합니다. "어, 0.3% 올랐네" 하고 넘기지만, 그 숫자 뒤에는 수십 년간 반복된 패턴이 숨어 있습니다. 마치 영어 단어가 문법 규칙에 따라 문장을 이루듯, 주식 수익률 숫자들도 나름의 '문법'을 가지고 있습니다.

2024년 4월에 발표된 연구들은 이 '숫자의 문법'을 AI가 읽기 시작했음을 보여줍니다. 동시에, 탈중앙화 금융(DeFi) 세계에서는 유동성 공급자들이 생각보다 큰 손실을 보고 있다는 충격적인 실증 결과가 나왔습니다. 이번 글에서는 이 두 가지 이야기와, 옵션 가격의 한계를 구하는 새로운 방법론까지 함께 살펴보겠습니다.

---

테마 1: 주식 수익률을 '문장'처럼 읽는 AI - StockGPT

뭐가 문제였을까요?

기존의 주식 예측 모델은 대개 이렇습니다: "이 회사의 P/E 비율이 15배이고, 최근 3개월 수익률이 10% 올랐으므로..." 즉, 사람이 직접 골라낸 특징(팩터)들을 입력으로 넣어 예측합니다. 마치 외국어를 단어장 외워서 번역하는 것과 같습니다.

하지만 GPT 같은 생성형 AI는 단어장을 외우지 않습니다. 수십억 개의 문장을 읽으면서 '문법' 자체를 터득합니다. 그렇다면 주식 수익률도 이런 방식으로 학습할 수 있지 않을까요?

StockGPT가 한 일

Dat Mai 박사가 만든 StockGPT는 놀랍게도 거의 100년치 미국 주식 데이터를 사용합니다. 1926년부터 2023년까지, 약 7천만 건의 일별 수익률을 모아서, 각 종목의 수익률 시계열을 하나의 '문서'처럼 취급합니다.

쉽게 말하면 이렇습니다:

• GPT가 "나는 학교에 ___" 다음에 "간다"를 예측하듯이
• StockGPT는 "이 종목의 최근 수익률이 +0.5%, -0.2%, +0.1%..." 다음에 "다음 수익률은?"을 예측합니다

결과가 어떠했나요?

2001년부터 2023년까지의 홀드아웃 테스트(학습에 쓰지 않은 데이터로 검증)에서:

• StockGPT가 예측한 대로 가장 오를 종목을 사고, 가장 내릴 종목을 파는 전략(롱숏 포트폴리오)이 강건한 성과를 냈습니다
• 이 성과는 기존의 유명한 팩터들(모멘텀, 반전 등)만으로는 설명할 수 없었습니다. Fama-MacBeth 회귀에서 유의미한 알파가 나왔다는 뜻입니다
• 연구진은 이를 "AI 가격 효과(AI pricing effect)"라고 부릅니다

한계와 주의점

모든 논문이 그렇듯 완벽하지 않습니다:

• 재현성 점수가 낮아서(38점) 공개 코드가 제한적입니다
• 미국 주식(CRSP 데이터)에만 적용했고, 다른 시장에서는 다를 수 있습니다
• 시장이 급격히 변하는 구간(버블이나 크래시)에서의 성과는 추가 검증이 필요합니다

그래서 투자에 뭘 할 수 있을까요?

StockGPT의 핵심 아이디어는 "수익률에도 문법이 있다"입니다. 사람이 직접 팩터를 설계하지 않아도, 충분히 긴 역사 데이터에서 패턴을 자동으로 찾아낼 수 있다는 것입니다. 다만, 이는 '알파 신호의 프로토타입' 정도로 보는 것이 적절합니다. 실제 투자에 쓰려면 거래비용, 슬리피지, 시장 충격 등을 추가로 고려해야 합니다.

---

테마 2: DeFi 유동성 공급의 불편한 진실

뭐가 문제였을까요?

우리가 은행에 돈을 맡기면 이자를 받습니다. DeFi 세계에서는 '유동성 공급자(Liquidity Provider, LP)'가 되면 거래 수수료를 받습니다. Uniswap 같은 탈중앙화 거래소(DEX)에 자산을 예치하면, 그 풀에서 이루어지는 모든 거래에서 수수료를 나눠 받는 구조입니다.

그런데 이 수수료가 실제로 충분할까요? "수수료를 받으니까 이익이겠지"라고 생각하기 쉽지만, 실제 데이터를 분석해 보면 놀라운 결과가 나옵니다.

LVR: 숨겨진 비용

AMM 유동성 공급에는 LVR(Loss-versus-Rebalancing)이라는 숨겨진 비용이 있습니다. 쉽게 말하면, AMM의 자동 가격 조정 메커니즘 때문에 LP가 손해를 보는 구조입니다. 마치 중고차 딜러가 시세 변동에 항상 한 박자 늦게 반응해서 손해를 보는 것과 비슷합니다.

실증 결과: 수수료보다 손실이 더 크다

Fritsch와 Canidio의 연구는 Uniswap의 주요 유동성 풀을 분석한 결과를 보여줍니다:

• 아비트라지 손실(LVR)이 수수료 수익을 초과하는 풀이 다수 존재합니다
• 놀랍게도, Uniswap v2 풀이 v3보다 수동 LP에게 더 수익적입니다. v3가 더 정교하게 설계되었음에도 불구하고, 수동으로 관리하는 LP에게는 오히려 불리하다는 것입니다
• 블록 시간을 현재의 12초에서 100ms로 줄이면 아비트라지 손실이 20~70% 감소합니다. 하지만 거래쌍에 따라 감소율이 크게 다릅니다

한계와 주의점

이 연구는 특정 시점의 Uniswap 데이터에 기반합니다. DeFi 생태계는 빠르게 변하고 있어서, 시간이 지나면서 수익성 구조가 달라질 수 있습니다. 또한 다른 AMM 프로토콜(Curve, Balancer 등)에서는 결과가 다를 수 있습니다.

그래서 투자에 뭘 할 수 있을까요?

AMM에 유동성을 공급하려면 단순히 "수수료가 높은 풀"을 고르는 것만으로는 부족합니다. LVR이라는 숨겨진 비용을 반드시 고려해야 합니다. 특히 v3의 집중 유동성(concentrated liquidity) 전략은 적극적으로 관리하지 않으면 v2보다 못한 성과를 낼 수 있다는 점이 중요합니다.

---

테마 3: 옵션 가격의 '절대 한계'를 구하는 딥러닝

뭐가 문제였을까요?

"이 옵션의 공정한 가격은 얼마일까요?"라는 질문에 답하려면, 기초자산의 미래 움직임을 가정해야 합니다. 블랙-숄즈 모형처럼 말이죠. 그런데 어떤 모형을 쓰느냐에 따라 가격이 달라지면, 그 가격을 얼마나 믿을 수 있을까요?

이 문제에 대한 한 가지 접근법은 모델-프리 바운드입니다. 모형을 가정하지 않고, 시장에서 관찰 가능한 정보만으로 옵션 가격의 상한과 하한을 구하는 방법입니다. 마치 "이 집의 가격은 정확히 모르지만, 3억~5억 사이일 것이다"라고 말하는 것과 같습니다.

기존 방법의 한계

기존의 모델-프리 바운드 방법은 단일 자산 옵션에는 잘 작동하지만, 멀티자산 옵션(바스켓 옵션, 범위 옵션 등)으로 가면 문제가 어려워집니다. 자산 간의 의존구조(상관관계)를 모르기 때문입니다. 마치 "A와 B의 가격은 각각 알지만, 둘이 동시에 오르내리는 패턴은 모른다"는 것과 같습니다.

새롭게 제안된 방법

Dragazi, Liu, Papapantoleon은 이 문제에 딥러닝을 적용했습니다:

1. 시장에서 관찰 가능한 멀티자산 옵션 가격을 '추가 정보'로 활용
2. 슈퍼헤징 쌍대성(superhedging duality)을 이용해 확률 측도 위의 최대화 문제를 거래전략 위의 최소화 문제로 변환
3. 페널티법 + 인공신경망으로 효율적으로 계산

이 방법의 가장 큰 장점은 자산 수에 대해 계산 시간이 선형으로 증가한다는 것입니다. 10개 자산을 다루더라도 계산 시간이 10배 느려지는 것이 아니라, 거의 선형적으로 증가합니다.

그래서 투자에 뭘 할 수 있을까요?

멀티자산 옵션 포트폴리오의 헤지 상한을 계산하거나, 의존구조 불확실성을 반영한 VaR(Value at Risk) 한계값을 산출하는 데 직접 사용할 수 있습니다. 특히 옵션 내재정보를 리스크 관리 파이프라인에 통합하는 데 유용한 이론적 프레임워크입니다.

---

테마 4: 강화학습이 포트폴리오를 '안전하게' 만드는 법

핵심 아이디어

기존의 강화학습(RL) 기반 포트폴리오 연구는 대개 "수익률을 최대화하는 정책"을 찾습니다. 하지만 실제 투자에서는 수익률뿐만 아니라 리스크도 중요합니다. "평균 10% 수익이지만, 가끔 -50%가 나는 전략"과 "평균 7% 수익이지만, 최대 하락이 -10%인 전략" 중 후자를 선택하는 투자자가 많을 것입니다.

Yanwei Jia의 연구는 연속시간 RL에 위험민감성(risk-sensitivity)을 주입하는 방법을 제안합니다. 핵심은 간단합니다: 기존 RL 알고리즘에 실현 분산 패널티를 추가하는 것만으로 위험민감성을 만들 수 있다는 것입니다.

관련 연구들

• Simplex 분해(2404.10683): 자산군별 배분 제약을 구조적으로 처리하는 방법
• VC 이론(2404.11509): 재고정책의 복잡도를 제어해 과적합을 방지하는 관점
• 강건 최적제어(2404.05230): 모형 불확실성에 대한 방어적 포트폴리오 설계

---

테마 5: 예측의 '신뢰도'를 높이는 후처리 기술

핵심 아이디어

"내일 주가가 3% 오를 것이다"라는 예측보다, "내일 주가가 2~4% 오를 확률이 80%이다"라는 예측이 훨씬 더 유용합니다. 확률예측(probabilistic forecasting)은 바로 이 불확실성을 정량화하는 기술입니다.

2404 코호트에서는 기존 점예측 모델 위에 확률예측 후처리 레이어를 얹는 실용적 프레임워크가 검증되었습니다:

• QRA·CP·IDR 앙상블(2404.02270): 세 가지 후처리 방법의 앙상블이 최신 분포형 심층신경망을 능가
• 온라인 conformal 방법(2404.02722): 실시간으로 예측 구간을 보정하는 기법
• 지수 가중 이동 모델(2404.08136): EWMA를 일반화한 시계열 상태추정 프레임

---

2024년 4월의 Big Picture

이번 달의 연구는 두 가지 큰 흐름을 보여줍니다:

첫째, AI가 금융 데이터의 '문법'을 읽기 시작했다. StockGPT는 주가 수익률을 토큰으로 학습해 기존 팩터로 설명 불가능한 알파를 발견했습니다. 이는 "AI가 인간보다 복잡한 금융 투자 결정을 내릴 수 있다"는 가능성을 시사합니다.

둘째, DeFi의 숨겨진 비용이 드러나고 있다. AMM 유동성 공급의 LVR 비용이 수수료 수익을 초과하는 경우가 확인되었습니다. 단순히 "수수료가 높은 풀"을 고르는 것만으로는 부족하며, 블록 시간·풀 구조·관리 방식까지 종합적으로 고려해야 합니다.

셋째, 확률예측과 리스크 관리가 실용화되고 있다. 점예측 위에 conformal·IDR 레이어를 얹는 것만으로 예측의 신뢰도를 크게 높일 수 있다는 것이 검증되었습니다. 불확실성을 정량화하는 것이 의사결정 품질을 높이는 구조적 이유를 보여줍니다.

---

함께하기

이런 연구가 흥미로우시다면, 저희와 함께해 보세요:

• 📬 뉴스레터 구독: 최신 연구 분석을 매주 받아보세요 → ohselab.com
• 💬 상담 문의: 퀀트 전략·리서치 파트너십 → ohselab.com
• 🐦 팔로우: 소셜 미디어에서 최신 소식 → ohselab.com

---

더 알아보기

이 글에서 다룬 논문들의 arXiv 링크와 5차원 평가 점수입니다:

5차원 평가 기준: 참신성(Novelty), 실용성(Applicability), 엄밀성(Rigor), 재현성(Reproducibility), 통찰력(Insight)을 각각 0~100점으로 평가합니다.

이 글은 arXiv 2404 코호트(2024년 4월)의 연구를 기반으로 작성되었습니다.