AI가 금융 리스크를 읽고, 수학이 헤징을 혁신하다

2023년 10월 금융 AI·퀀트 연구 하라이트

---

들어가며: 두 개의 강이 하나로

2023년 10월, arXiv의 금융 섹션에는 흥미로운 장면이 펼쳐졌습니다. 한쪽 강에는 생성형 AI가 흐르고 있었고, 다른 쪽 강에는 수학적 금융의 고전적 도구들이 흐르고 있었죠. 그런데 이 두 강이 합류하는 지점이 나타났습니다.

한 논문은 GPT-3.5에게 기업 실적발표 녹취록을 읽게 해 "이 회사에 AI 리스크가 얼마나 있는지"를 숫자로 뽑아냈고, 다른 논문은 100년 전 수학에서 온 '경로 시그니처'라는 도구를 최신 트랜스포머와 결합해 주식 헤징을 더 잘하는 방법을 찾았습니다.

이 글에서는 2023년 10월에 올라온 논문들 중 가장 흥미로운 6편을 네 가지 테마로 묶어 소개합니다. 논문을 읽지 않은 분도 끝까지 따라오실 수 있게 쉽게 풀어볼게요.

---

테마 1: GPT가 기업의 숨은 리스크를 찾아내다

문제: 기업의 진짜 위험을 어떻게 알 수 있을까?

투자자들이 기업의 실적발표 콜(earnings call)을 듣는 이유는 숫자만이 아닌 뉘앙스를 잡기 위해서입니다. 그런데 매 분기 수백 개 기업의 콜을 일일이 듣고 분석하는 건 불가능에 가깝죠.

게다가 요즘 기업들이 직면한 위험은 예전과 많이 달라졌습니다. 기후변화, 정치적 갈등, 인공지능의 급부상 같은 비재무적 리스크는 재무제표 숫자만으로는 보이지 않습니다.

해결: GPT-3.5에게 콜 녹취록을 읽히다

시카고대 연구팀은 GPT-3.5에게 두 가지를 시켰습니다(Alex Kim 외, arXiv:2310.17721):

1. 리스크 요약: "이 콜에서 어떤 위험 이야기가 나왔나요?"
2. 리스크 평가: "당신의 일반 지식을 바탕으로 이 기업의 정치·기후·AI 리스크 노출도를 평가해 주세요."

놀라운 결과가 나왔습니다. 리스크 평가의 정보량이 요약을 압도했습니다. GPT가 텍스트를 압축한 것보다, GPT가 이미 알고 있는 일반 지식을 활용한 쪽이 훨씬 더 가치 있었다는 뜻이죠.

구체적으로, GPT 기반 리스크 측정치는 기존 전통적 지표들보다 다음을 더 잘 예측했습니다:

• 기업 수준의 주식 변동성
• 기업의 투자·혁신 의사결정
• 비정상 수익률(abnormal returns)

그리고 흥미롭게도, AI 리스크 노출도가 최근 분기들에서 급격히 상승하고 있다는 사실도 발견했습니다. ChatGPT가 등장한 직후, 기업들이 AI에 대해 이야기하는 양이 폭발적으로 늘어난 거죠.

왜 중요할까요?

이 연구는 비싼 컨설턴트나 전문 분석가 없이도, 누구든 공개된 실적발표 녹취록만 있으면 비재무 리스크를 정량화할 수 있다는 걸 보여줍니다. 비용도 거의 들지 않고요. 투자 의사결정에서 "숫자만으로는 보이지 않는 것들"을 읽어내는 새로운 방법이 열린 셈입니다.

함께 나온 금융 AI 연구

같은 달에 FinGPT(arXiv:2310.04793)라는 연구도 나왔습니다. 오픈소스 LLM을 금융 데이터에 특화시키는 벤치마크를 제시한 논문인데요, 고유명사 인식(NER), 감성 분석, 멀티태스크 수행, 심지어 학습하지 않은 새 과제까지 3단계로 평가합니다. NeurIPS 2023 워크숍에서 발표되었죠.

또한 금융 감성분석의 시간에 따른 분포 이동 문제를 다룬 논문(arXiv:2310.12620)도 주목할 만합니다. 과거 데이터로 학습한 감성 모델이 미래 데이터에서 얼마나 성능이 떨어지는지 실증적으로 보여주며, 모델 재학습 주기 설계의 중요성을 일깨워 줍니다.

---

테마 2: 수학의 오래된 도구가 최신 AI를 만나다 — 딥 헤징의 혁신

문제: 그리스字母만으로는 부족하다

опцион(옵션)을 거래하는 사람들은 '델타', '감마' 같은 그리스 글자로 불리는 수치들을 계산해 리스크를 관리합니다. 하지만 이 수치들은 시장이 항상 "예쁘게" 움직인다고 가정할 때만 정확해요. 실제 시장은 그렇지 않습니다 — 변동성이 거칠게 출렁이고, 예측 불가능한 점프가 일어나죠.

2018년부터 딥 헤징이라는 새로운 접근법이 등장했습니다. 그리스 글자를 손으로 계산하는 대신, 신경망에게 "어떻게 헤징하면 손실을 최소화할 수 있는지"를 직접 학습시키는 방식이에요.

기존 방식의 한계

그런데 문제가 있었습니다. 실제 시장의 가격 변동은 fractal(프랙탈) — 즉 거친(fractal) 특성을 가지고 있습니다. 변동성이 클 때는 계속 크고, 작을 때는 계속 작죠(변동성 클러스터링). 이런 거친 시계열을 처리하는 데 기존 RNN(순환 신경망)은 한계를 보였습니다.

해결: 시그니처 + 트랜스포머 = SigFormer

KAIST 연구팀이 흥미로운 해결책을 내놓았습니다(arXiv:2310.13369). 바로 SigFormer라는 모델이에요.

핵심 아이디어는 경로 시그니처(path signature)라는 수학적 도구입니다. 이것은 100년 전 프랑스 수학자 폴 레비(Paul Lévy)의 연구에서 시작된 개념인데요, 간단히 말하면 연속적인 가격 움직임의 "모양"을 숫자의 긴 목록으로 바꿔주는 도구입니다.

비유를 들어볼게요. 주가 차트를 그렸다고 상상해 보세요. 시그니처는 이 차트를 "처음에 올랐다가, 잠깐 내렸다가, 다시 올랐다가..."这样的 패턴의 목록으로 바꿔주는 거예요. 중요한 건 이 변환의 세 가지 성질입니다:

1. 시간의 빠르기는 무시합니다: 같은 모양이면 빠르게 올랐든 천천히 올랐든 같은 시그니처를 가집니다
2. 어떤 곡선이든 설명할 수 있습니다: 수학적으로 "보편적 비선형성"이라고 불리는 성질이에요
3. 조각을 합칠 수 있습니다: 오늘의 시그니처와 내일의 시그니처를 곱하면 이틀 전체의 시그니처가 됩니다

SigFormer의 독창성은 시그니처를 단순히 트랜스포머에 넣지 않았다는 점입니다. 시그니처의 차원별로 별도의 어텐션 블록을 적용했어요. 왜냐고요? 시그니처의 각 차원은 서로 다른 기하학적 의미를 가지기 때문입니다:

• 1차: 경로의 변위 (평균적으로 얼마나 움직였나)
• 2차: 레비 면적 (곡선과 현 사이의 면적 — 얼마나 "휘어졌나")
• 3차 이상: 더 고위의 기하학적 특징

결과: 실제 시장에서 검증

SigFormer는 두 가지 실험에서 기존 방법을 압도했습니다:

1. 시뮬레이션: 거친 변동성을 생성하는 Bergomi 모형에서, RNN 기반 모델보다 학습 속도가 빠르고 성능이 안정적이었습니다
2. 실전 백테스트: S&P 500 지수 헤징을 2022년 전체(우크라이나 전쟁, 금리 인상 등 극단적 시장 포함)에 대해 테스트한 결과, 일관된 양(+)의 손익을 달성했습니다

함께 나온 헤징 연구들

이 테마에는 관련 논문들이 여럿 나왔습니다:

• Robust Asset-Liability Management(arXiv:2310.00553): 은행·보험사가 금리 리스크로 인한 자산-부채 불일치를 어떻게 관리할지 다룹니다. "모호성 회피"라는 개념을 도입해, 확실하지 않은 미래 금리 시나리오에서도 안전한 포트폴리오를 찾는 방법을 제시합니다. 계산이 간단한 최소자승법(GLS)으로 환산된다는 점이 실전적 강점이에요.
• Deeper Hedging(arXiv:2310.18755): 에이전트 기반 시장 모형에 Heston형 변동성 신호를 결합해, 딥 헤징의 학습 환경을 더 현실적으로 만들려는 시도입니다.

---

테마 3: 주문의 흐름을 읽는 수학 — 시장 미시구조의 진전

문제: 대량 주문을 어떻게 처리할까?

대형 투자은행이나 헤지펀드에서 매일같이 일어나는 고민이 있습니다. 고객이 대량 주문을 넣었을 때, 이 주문을 바로 시장에 내보낼 것인가, 아니면 잠시 보관하고 있다가 나중에 반대 방향 주문이 들어오면 상쇄시킬 것인가?

바로 내보내면 가격 충격(price impact) 비용이 듭니다. 보관하면 가격이 불리하게 움직일 리스크가 있고요. 이 균형점을 수학적으로 찾는 문제가 이번에 깔끔하게 풀렸습니다.

해결: 확률적 주문 흐름의 최적 해소

컬럼비아대 Marcel Nutz 교수팀은 이 문제를 확률적 주문 흐름의 최적 해소로 정식화했습니다(arXiv:2310.14144). 핵심 발견은 다음과 같습니다:

미래 주문 흐름의 자기상관(autocorrelation)이 전략을 완전히 바꾼다는 것이에요.

쉽게 비유해 볼게요. 카페에서 손님이 랜덤으로 들어온다고 상상해 보세요.

• 자기상관이 0 (마팅게일): 손님이 완전히 랜덤으로 옵니다. 오늘 많이 왔다고 내일 적게 오는 것도 아니고, 그 반대도 아니에요. 이 경우 지금 들어온 주문만 처리하면 됩니다. 미래를 예측할 필요가 없어요.
• 양(+) 자기상관: 오늘 손님이 많으면 내일도 많을 가능성이 높습니다. 지금 매수 주문이 들어왔다면, 보관해 두세요 — 곧 매수 주문이 더 들어올 테니까요. 나중에 매도 주문이 오면 상쇄시킬 수 있습니다.
• 음(-) 자기상관: 오늘 많으면 내일은 적을 가능성이 높습니다. 지금 바로 처리하는 게 낫습니다.

이 연구의 아름다운 점은 반(半)닫힌 형태의 해석적 해를 구했다는 것입니다. 컴퓨터로 시뮬레이션만 돌리는 게 아니라, 수학 공식으로 정확한 답을 낼 수 있다는 뜻이에요. 표준 실행 문제(Almgren-Chriss 등)와 근본적으로 다른 점은 주문 규모가 사전에 알려져 있지 않다는 것이고, 이 불확실성이 전략을 근본적으로 바꿉니다.

Mathematical Finance 저널에 게재가 확정된 논문이기도 합니다.

크립토 세계의 미시구조

같은 달에 블록체인 기반 시장의 이론도 발전했습니다:

• "모든 AMM은 CFMM이다"(arXiv:2310.09782): DeFi(탈중앙화 금융)에서 유동성 풀의 가격을 결정하는 자동화 마켓메이커(AMM)를 수학적으로 통일하는 이론입니다. "차익거래가 없는 시장은 불변식을 가진다"는 아름다운 결과를 증명했어요.
• Perpetual Futures Pricing(arXiv:2310.11771): 비트코인 같은 크립토에서 인기 있는 퍼페추얼 선물(만기가 없는 선물)의 공정가치를 funding 메커니즘으로 정식화했습니다.

---

테마 4: 변동성의 미소를 읽는 AI — 파생상품 가격결정

문제: 변동성 곡선에 차익거래가 없도록 하려면?

옵션 트레이더들이 보는 가장 중요한 차트 중 하나가 내재변동성(IV) 서피스입니다. 행사가격과 만기에 따라 변동성이 어떻게 달라지는지를 보여주는 3D 곡면이에요. 이 곡면은 스마일(smile) 형태 — 만기가 짧은 쪽과 긴 쪽의 변동성이 다르게 생겼죠.

문제는 이 곡면을 시장 데이터로 fitting할 때, 차익거래 기회가 남으면 안 된다는 것입니다. 수학적으로는 옵션 가격의 특정 미분들이 특정 부등식을 만족해야 한다는 조건으로 표현됩니다.

해결: 미분 제약을 손실 함수에 직접 넣다

런던대 연구팀은 DCNN(Derivative-Constrained Neural Network)을 제안했습니다(arXiv:2310.16703). 기존 신경망은 가격 데이터만 맞추면 됐지만, DCNN은 가격의 만기시간·행사가격에 대한 편미분까지 손실 함수에 포함시킵니다. 이 미분항이 바로 무차익의 필요충분조건이에요.

SABR 모형(실제 옵션 시장의 스마일·스큐를 잘 재현하는 모형)으로 생성한 데이터로 학습한 결과, DCNN은 기존 방법보다 IV 서피스 보간이 개선되었고, 출력이 항상 매끄럽고 차익거래 없는 것을 보장했습니다.

이것은 옵션 마켓메이커에게 직접적으로 중요한 결과입니다. 매일 IV 서피스를 업데이트하면서 차익거래 조건을 만족시키는 건 쉬운 일이 아니거든요.

변동성 연구의 다른 흐름들

• Variational GARCH(arXiv:2310.03435): 변동성 예측의 표준 모형인 GARCH의 베이지안 추정을, 느린 MCMC 대신 빠른 변분추론으로 대체할 수 있는지 체계적으로 검토했습니다.
• Rough Heston의 효율적 가격결정(arXiv:2310.04146): 실제 시장의 "거친" 변동성을 잘 재현하는 rough Heston 모형을, 계산이 빠른 마코프 근사로 변환해 시뮬레이션 효율을 크게 개선했습니다.

---

그래서 투자·실무엔?

이 달의 연구들이 시사하는 바를 정리하면:

1. 비재무 리스크의 정량화가 가능해졌다. GPT 같은 LLM으로 어닝콜에서 정치·기후·AI 리스크를 숫자로 추출할 수 있다. 저렴하고 확장 가능한 방법이다.

2. 딥 헤징이 성숙 단계에 접어들고 있다. 시그니처+트랜스포머 같은 구조적 혁신으로, 거친 시장 데이터에서도 안정적인 헤징 전략을 학습할 수 있게 되었다. 2022년 S&P 500 백테스트가 이를 뒷받침한다.

3. 주문 실행의 수학이 더 정교해졌다. 미래 주문 흐름의 자기상관에 따라 전략을 조정하는 분석적 해가 나왔다. 대량 주문을 다루는 기관이라면 바로 참고할 수 있는 결과다.

4. 파생상품 가격결정에 AI가 침투하고 있다. 무차익 제약을 신경망 손실 함수에 직접 넣는 방법이 IV 서피스 구축의 새로운 표준이 될 수 있다.

---

함께 보기

• 이 달의 전체 리포트: 백필 2310 리포트
• 각 논문의 상세 점수와 관련 논문은 리포트를 참고하세요

---

더 알아보기

---

이 글은 ohselab의 금융 AI·퀀트 연구 리서치 시리즈입니다.

구독·상담·팔로우

• 🌐 ohselab.com