AI가 옵션 헤지를 직접 배운다 — 위험회피 수준을 실시간으로 조정하는 강화학습

오세에이아이연구소·2026년 8월 24일·14분 읽기

#딥헤징 #강화학습 #헤지 #옵션 #위험관리 #파생상품 #actor-critic

AI가 옵션 헤지를 직접 배운다 — 위험회피 수준을 실시간으로 조정하는 강화학습

옵션을 사고 나면 "얼마나 헤지해야 할까?"라는 질문이 따라옵니다. 이 연구는 그 답을 AI가 직접 학습하게 만드는 방법을 제시합니다.

들어가며

주식 투자를 하다 보면 이런 상황을 마주칩니다. 콜옵션을 샀는데, 시장이 요동치기 시작합니다. 손실을 줄이려면 기초자산을 사거나 팔아서 위험을 상쇄해야 합니다. 이것이 바로 헤지(hedging)입니다.

전통적으로 헤지 비율은 블랙-숄즈 모델의 델타(delta)라는 수치로 계산합니다. 하지만 이 방법은 시장이 조용하고 가격 변동이 정규분포를 따를 때만 잘 작동합니다. 실제 시장은 그렇지 않습니다. 변동성이 갑자기 치솟고, 거래비용이 발생하고, 유동성이 마르기도 합니다.

그렇다면 AI가 헤지 전략을 직접 배우면 어떨까요? 시장 데이터를 보면서 "지금 이 상황에서는 이렇게 헤지하는 게 최적이다"를 스스로 터득하는 것입니다. 그것도 위험을 얼마나 싫어하느냐(위험회피 수준)에 따라 다른 전략을 하나의 모델로 동시에 학습하는 방법입니다.

무엇이 문제였나

기존의 딥 헤징(deep hedging) 연구들은 강화학습으로 헤지 전략을 학습하는 데 성공했습니다. 하지만 몇 가지 큰 한계가 있었습니다.

첫째, 포트폴리오마다 새로 학습해야 했습니다. 콜옵션 1개짜리 포트폴리오의 헤지 전략을 학습했다면, 풋옵션 2개짜리 포트폴리오에서는 처음부터 다시 학습해야 합니다. 실제 운용 현장에서는 매일 포트폴리오 구성이 바뀌는데, 매번 재학습하는 것은 현실적이지 않습니다.

둘째, 위험회피 수준이 고정되어 있었습니다. "나는 위험을 매우 싫어한다"와 "약간의 위험은 감수할 수 있다"는 완전 다른 전략을 만들어야 합니다. 시장 상황에 따라 위험 태도를 바꾸고 싶어도, 모델이 하나의 위험회피 수준에만 맞춰져 있으면 유연하게 대응할 수 없습니다.

셋째, 실제 트레이더가 보는 정보를 활용하지 못했습니다. 트레이더는 델타, 감마, 베가 같은 그리스(Greeks) 지표를 보면서 리스크를 관리합니다. 하지만 기존 모델들은 이런 방식으로 포트폴리오를 표현하지 않았습니다.

핵심 아이디어

이 논문(J.P. Morgan과 뮌헨공대, 임페리얼칼리지 런던 공동 연구)은 이 세 가지 문제를 한 번에 해결합니다.

1. 위험회피 수준을 입력으로 받는 하나의 모델

핵심 아이디어는 놀랍도록 간단합니다. 신경망에 시장 상태와 위험회피 수준(λ)을 함께 입력으로 넣는 것입니다.

비유를 들어보겠습니다. 자동차 운전을 배운다고 상상해 보세요. 기존 방법은 "안전 운전만 하는 AI"와 "과감하게 추월하는 AI"를 따로 훈련해야 했습니다. 이 연구는 하나의 AI가 "오늘은 안전하게", "지금은 과감하게"라고 실시간으로 전환할 수 있게 합니다.

구체적으로, 위험회피 수준 λ가 0에 가까우면 위험중립(기대수익만 추구), λ가 커지면 매우 보수적(최악의 경우를 방어)해집니다. 이 λ를 신경망의 입력으로 넣어 하나의 모델이 모든 위험회피 수준에 대한 헤지 전략을 동시에 학습합니다.

2. 트레이더처럼 포트폴리오를 표현하는 방법

이 연구는 선형 마르코프 표현(Linear Markov Representation, LMR)이라는 방법을 제안합니다. 포트폴리오를 델타, 감마, 베가, 세타 같은 그리스 지표로 표현하는 것입니다.

중요한 점은 이 표현이 포트폴리오 구성에 대해 선형이라는 것입니다. 옵션 1개의 델타가 0.5이고, 옵션 2개의 델타가 0.3이라면, 두 옵션을 합친 포트폴리오의 델타는 0.5 + 0.3 = 0.8입니다. 이 성질 덕분에 임의의 포트폴리오 조합에 대해 재학습 없이 즉시 헤지 비율을 계산할 수 있습니다.

3. 위험회피 강화학습 프레임워크

일반적인 강화학습은 "기대수익을 최대화"합니다. 하지만 헤지에서는 "최악의 경우를 얼마나 잘 방어하느냐"가 더 중요합니다. 이 논문은 지수형 효용함수를 사용해 위험회피를 수학적으로 정확하게 모델링합니다.

쉽게 말하면, "100만 원을 잃을 확률"과 "1000만 원을 잃을 확률"을 구분해서, 큰 손실을 더 무겁게 처벌하는 것입니다. 이 방식은 시간 일관성(time consistency)이라는 좋은 성질을 가져서, 동적 프로그래밍(단계별 최적화)에 적합합니다.

결과 — 무엇을 알아냈나

연구팀은 헤스톤(Heston) 확률변동성 모델 환경에서 30일 만기 콜옵션에 대해 실험했습니다. 20만 개의 시나리오 경로로 학습하고, 다양한 조건에서 성능을 검증했습니다.

가치함수의 정확도: 학습된 모델이 추정한 헤지 비용과 실제 비용의 차이(RMSE)가 0.014에 불과했습니다. 이는 모델이 "이 포트폴리오를 헤지하는 데 비용이 얼마 드는지"를 매우 정확하게 파악하고 있다는 뜻입니다.

가격 일관성: 위험회피 수준 λ를 0으로 줄이면 모델이 산출하는 가격이 블랙-숄즈 모형의 이론가격과 정확히 일치했습니다. λ를 키우면 리스크 프리미엄이 정확히 더해졌습니다. 이는 모델이 경제적으로 타당한 가격을 산출한다는 것을 의미합니다.

블랙-숄즈 대비 성과: 학습된 헤지 전략은 전통적인 블랙-숄즈 델타 헤지를 일관되게 초과했습니다. 기존의 딥 헤징 방법과는 동등한 성능을 보이면서, 재학습 없이 다양한 포트폴리오에 적용할 수 있다는 추가 이점이 있습니다.

실시간 위험회피 전환: 가장 인상적인 결과는, 학습된 모델에서 λ 값만 바꾸면 헤지 강도가 즉시 조정된다는 것입니다. 시장이 급락할 때 λ를 높여 보수적으로 전환하고, 시장이 안정되면 λ를 낮춰 비용을 절약하는 것이 가능합니다. 재학습이 필요 없습니다.

한계와 주의점

이 연구가 만능은 아닙니다. 솔직하게 한계를 짚어보겠습니다.

첫째, 실제 시장이 아닌 시뮬레이션 환경에서만 검증했습니다. 헤스톤 모델은 확률변동성을 잘 모델링하지만, 실제 시장의 모든 특성(점프, 유동성 급변, 뉴스 이벤트 등)을 포착하지는 않습니다.

둘째, 30일 만기라는 제한적 설정입니다. 실제 포트폴리오는 수개월에서 수년 만기의 다양한 파생상품을 포함합니다. 더 긴 만기에서의 성능은 추가 검증이 필요합니다.

셋째, 거래비용 모델이 단순화되어 있습니다. 실제 시장의 거래비용은 비선형이고, 호가 스프레드, 시장 충격 등 복잡한 요소가 있습니다.

넷째, 20만 경로 학습에 상당한 연산 자원이 필요합니다. 프로토타입 구축 단계에서는 GPU 자원 확보가 과제입니다.

그래서 투자/실무엔?

이 연구가 자기자본 운용에 주는 시사점을 정리하면 다음과 같습니다.

1. 하나의 모델로 다양한 헤지 전략을 관리할 수 있습니다. 위험회피 수준 λ를 조절하는 것만으로 보수적~공격적 헤지를 전환할 수 있습니다. 시장 상황에 맞춰 실시간으로 리스크 태도를 조정하는 것이 가능해집니다.

2. 기존 리스크 관리 시스템과 자연스럽게 통합됩니다. LMR이 그리스 지표를 사용하기 때문에, 이미 델타·감마·베가를 모니터링하는 시스템 위에 바로 올릴 수 있습니다.

3. 프로토타입 구축 경로가 명확합니다. 먼저 합성 데이터(헤스톤 모델 등)로 프로토타입을 구축하고, 이후 실제 시장 데이터로 전이하는 2단계 접근이 적절합니다. J.P. Morgan이 참여한 연구인 만큼, 실무 적용 가능성을 염두에 둔 설계입니다.

4. 함께 참고할 논문: 같은 연구팀의 "Deep Bellman Hedging"(arXiv: 2207.00932)은 거래비용과 유동성 제약을 더 정교하게 반영한 확장판입니다. 두 논문을 쌍으로 읽으면 헤지 분야의 최신 강화학습 접근법을 포괄적으로 이해할 수 있습니다.

함께하기

ohselab은 자기자본 운용에 AI 기술을 적용하는 연구를 진행하고 있습니다.

웹사이트: https://ohselab.com
구독: 최신 논문 분석과 인사이트를 이메일로 받아보세요.
상담: AI 기반 운용 전략에 대해 궁금한 점이 있으시면 연락주세요.

더 알아보기

원 논문: arXiv:2207.07467 — "Deep Hedging: Continuous Reinforcement Learning for Hedging of General Portfolios across Multiple Risk Aversions" (Murray et al., ICAIF '22)
5차원 점수: 신규성 72 / 적용성 78 / 엄밀성 62 / 재현성 42 / 통찰력 71 (Composite: 67.3, A등급)
관련 논문:
- Deep Bellman Hedging — 거래비용 내재 헤지 확장
- Cost-efficient Payoffs under Model Ambiguity — 모형 불확실성 하의 강건 페이오프 설계