2021년 4월의 AI 금융 연구: 리스크 지표의 치명적 약점, 그리고 실행의 비밀

"세상에서 가장 널리 쓰이는 리스크 지표가 사실은 검증 불가능하다는 사실을 아셨나요?"

---

들어가며

매일 뉴스에서는 "시장 리스크가 높아졌다", "변동성이 커졌다"는 이야기가 나옵니다. 금융 회사들에는 CoVaR이나 ES(기대부족분) 같은 리스크 지표를 계산하는 시스템이 있고, 규제 당국은 이런 수치를 보고 은행의 건전성을 판단합니다.

그런데 2021년 4월에 올라온 한 논문이 이런 관행에 충격적인 질문을 던졌습니다. "그 지표들을 어떻게 검증하시렵니까?"

이 달에는 이 질문과 함께, 전력 시장에서의 실행 비밀, 주식 순위 예측의 새로운 접근법, 그리고 옵션 가격결정의 오래된 난제를 푸는 시도까지 — 금융 AI 연구의 다양한 면모를 살펴보겠습니다.

---

테마 1: 리스크 지표가 검증 불가능하다고?

무엇이 문제였나

금융에서 리스크를 측정하는 지표는 많습니다. CoVaR(조건적 VaR), CoES(조건적 기대부족분), MES(한계 기대부족분) 등은 은행 규제와 포트폴리오 관리에서 없어서는 안 될 도구입니다.

그런데 이 지표들에는 치명적인 약점이 있습니다. 바로 "백테스트(backtesting)"가 불가능하다는 것입니다.

백테스트란 뭘까요? 쉽게 말하면 이런 겁니다. 일기예보가 "내일 비 올 확률 80%"라고 했는데, 실제로 비가 안 왔다면 그 예보 모델이 맞는지 틀린지는 수백 번의 예보를 모아야 알 수 있습니다. 금융에서도 "이 모델이 리스크를 제대로 예측하는지"를 검증하려면 과거 예측과 실제 결과를 비교해야 합니다.

문제는 CoVaR 같은 지표들이 수학적으로 "elicitable(점화 가능)"하지 않다는 것입니다. 쉽게 말해, 예측값과 실현값만으로는 이 지표의 예측 품질을 체계적으로 평가할 수 없다는 뜻입니다.

핵심 아이디어

Fissler과 Hoga는 이 문제를 해결하기 위해 "다목적 점화 가능성(multi-objective elicitability)"이라는 새로운 수학적 프레임워크를 제안했습니다.

기존에는 하나의 스코어 함수로 예측 품질을 평가했는데, 이 논문은 2차원 스코어 함수를 사용합니다. 그리고 이 두 차원을 사전식 순서(lexicographic ordering)로 결합합니다. 마치 사전에서 "apple"과 "apply"를 비교할 때 먼저 'a'가 같으니 'p'를 비교하고, 그것도 같으니 'l'과 'p'를 비교하는 것과 비슷한 원리입니다.

이 프레임워크 위에 Diebold-Mariano(DM) 검정이라는 통계적 비교 방법을 확장하고, 규제 당국이 바로 쓸 수 있는 신호등(traffic-light) 접근법도 제시했습니다.

결과 — 무엇을 알아냈나

독일 DAX 30과 미국 S&P 500 수익률 데이터에 이 신호등 접근법을 적용했습니다. 그 결과 기존 CoVaR·CoES·MES 예측 모델들의 상대적 성능을 통계적으로 비교할 수 있게 되었고, 규제 당국에 대한 구체적 권고가 도출되었습니다.

이 논문은 Journal of Business & Economic Statistics(2023)에 정식 게재될 만큼 학계에서도 인정받았습니다.

한계와 주의점

이 방법론은 "어떤 모델이 더 나은가"를 비교할 수 있게 해주지만, "이 모델이 절대적으로 좋은가"를 보장하지는 않습니다. 또한 다목적 스코어의 해석이 단일 스코어보다 복잡해 실무 적용에 교육 비용이 필요합니다.

그래서 투자/실무엔?

자체 리스크 모델을 운영하는 팀이라면, 모델 검증 파이프라인에 이 프레임워크를 적용해볼 가치가 있습니다. "우리 모델이 CoVaR을 잘 예측하는지"를 과학적으로 답할 수 있는 도구가 생긴 셈이니까요.

---

테마 2: 차익거래보다 충격 최소화가 더 큰 비밀

들어가며

전력 시장은 조금 특별합니다. 주식시장처럼 실시간으로 가격이 움직이지 않고, 하루 전(Day-Ahead) 경매와 15분 전(Intraday) 경매라는 두 단계로 거래가 이루어집니다. 대형 전력 거래자는 이 두 경매에서 동시에 입찰해야 하는데, 자신이 던지는 주문량이 시장 가격 자체를 바꿔버립니다.

무엇이 문제였나

기존 연구들은 대부분 "차익거래를 극대화하라"는 관점에서 최적 입찰 전략을 설계했습니다. 즉, 값이 싼 시장에서 사서 비싼 시장에서 팔면 된다는 것입니다.

하지만 대량 거래자의 문제는 다릅니다. 자신이 사면 가격이 올라가고, 팔면 가격이 내려갑니다. 이 "자기 시장충격(self-impact)"을 무시하면 실제 수익을 크게 과대평가하게 됩니다.

핵심 아이디어

Narajewski와 Ziel은 독일 EPEX 시장 데이터를 사용해 실증적으로 수요·供给 곡선을 추정했습니다. 그리고 거래자 자신의 주문이 가격에 미치는 영향을 비선형으로 모델링했습니다.

여러 시나리오를 분석한 결과, 놀라운 결론이 나왔습니다.

결과 — 무엇을 알아냈나

시장 충격을 최소화하는 것이 차익거래를 극대화하는 것보다 훨씬 더 수익성이 높다는 것입니다.

쉽게 비유하면 이렇습니다. 큰 물고기가 작은 연못에서 헤엄치면 물이 출렁거려서 자신에게 불리해집니다. 차라리 출렁거림을 최소화하는 쪽으로 헤엄치는 것이 더 이롭다는 것입니다.

이 논문은 Energy Economics 110(2022)에 게재되었습니다.

한계와 주의점

이 결과는 전력 경매라는 특수한 시장 구조에서 나온 것입니다. 주식시장이나 외환시장에 바로 적용하려면 시장 구조의 차이를 고려해야 합니다. 또한 전력은 저장이 어렵고 수요가 시간에 크게 의존하는 특수한 상품입니다.

그래서 투자/실무엔?

대량 주문을 처리하는 알고리즘 트레이딩 팀이라면, 실행 알고리즘의 목표 함수를 "수익 극대화"에서 "시장 충격 최소화"로 재고해볼 만합니다. 특히 유동성이 낮은 시장에서 이 원리는 더욱 중요합니다.

---

테마 3: 주식 순위를 예측하면 38% 연수익?

들어가며

주식 투자에서 "이 주식이 오를까?"라는 질문은 참 어렵습니다. 그런데 "오를 가능성이 높은 주식과 낮은 주식의 순위를 매긴다면?"이라는 질문은 좀 다릅니다.

무엇이 문제였나

기존 팩터 전략(가치·모멘텀·퀄리티 같은 지표로 주식을 고르는 방법)은 보통 주식의 수익률 값을 직접 예측하는 회귀 모델을 사용합니다. 하지만 수익률은 매우 시끄럽고(noisy) 예측하기 어렵습니다.

대신 주식의 상대적 순위를 예측하면 어떨까요? "이 주식이 10% 오른다"고 예측하는 것보다 "이 주식이 가장 잘 할 주식 중 하나다"라고 예측하는 것이 더 안정적일 수 있습니다.

핵심 아이디어

Zhang, Wu, Chen은 정보 검색 분야에서 쓰이는 "learn-to-rank" 기법을 금융에 적용했습니다. 특히 기존 ListMLE(리스트와이즈 랭킹 손실)를 확장한 ListFold 손실함수를 제안했습니다.

이 손실함수의 특별한 점은 뭘까요? 기존 랭킹 모델은 순위 목록의 "맨 위"(가장 잘 할 주식)만 잘 맞추면 됐습니다. 하지만 롱·숏 포트폴리오를 만들려면 "맨 위와 맨 아래"를 동시에 잘 맞춰야 합니다. ListFold는 바로 이 양쪽 끝을 동시에 최적화하도록 설계되었습니다.

이론적으로도 깔끔합니다. 시프트 불변(주식 수익률에 일정 값을 더해도 순위가 바뀌지 않음)하고, 이진 분류 손실과도 일관됩니다.

결과 — 무엇을 알아냈나

중국 A주 시장, 68개 팩터, 2006~2019년 데이터로 검증한 결과:

• 샘플 외 연수익률: 38%
• 샤프 비율: 2.0

회귀 기반 모델 대비 의미 있는 성능 향상을 보였습니다.

한계와 주의점

중국 A주라는 특정 시장에서의 결과입니다. 한국이나 미국 주식시장에서도 같은 효과가 있을지는 별도 검증이 필요합니다. 또한 2006~2019년은 중국 경제의 고성장 기간이 포함되어 있어, 이 기간의 성과가 미래에도 반복된다는 보장은 없습니다.

그래서 투자/실무엔?

기존 멀티팩터 모델에서 회귀 손실 대신 ListFold 손실을 사용해보는 것은 프로토타입 수준에서 충분히 시도해볼 만합니다. 코드 변경이 크지 않으면서도 롱·숏 포트폴리오의 품질이 개선될 가능성이 있습니다.

---

테마 4: 옵션 가격결정의 오래된 난제에 도전하다

들어가며

"이 옵션의 가격은 얼마인가?"라는 질문은 금융에서 가장 오래된 질문 중 하나입니다. 블랙-숄즈 공식(1973)은 이 질문에 대한 아름다운 답을 주었지만, 현실의 옵션은 블랙-숗즈가 가정하는 것보다 훨씬 복잡합니다.

무엇이 문제였나

미국형 옵션은 만기 전 언제든 행사할 수 있는 옵션입니다. 이 "언제든 행사할 수 있다"는 특성 때문에 가격결정이 매우 복잡해집니다. 유럽형 옵션은 만기 때만 행사하니 상대적으로 간단하지만, 미국형은 "지금 행사할까, 아니면 기다릴까?"라는 최적 의사결정 문제를 풀어야 합니다.

기존 방법들은 대부분 기초자산의 전이밀도(transition density)가 폐형(closed-form)으로 알려져 있어야 했습니다. 하지만 현실의 많은 모델 — 비선형 평균회귀, 점프-확산 등 — 은 폐형 전이밀도가 없습니다.

핵심 아이디어

Chen과 Zhang은 에르미트(Hermite) 다항식이라는 수학적 도구를 활용했습니다.

에르미트 다항식은 일종의 "수학적 레고 블록"입니다. 어떤 복잡한 함수든 이 블록들을 조합해서 근사할 수 있습니다. 이 논문은 기초자산의 전이밀도를 에르미트 다항식으로 전개하고, 여기에 조기행사 프리미엄 표현을 결합해 미국형 옵션 가격과 최적 행사경계를 동시에 계산합니다.

폐형 전이밀도 없이도 작동한다는 것이 핵심 장점입니다.

결과 — 무엇을 알아냈나

비선형 평균회귀, 이중 평균회귀, Merton 점프-확산, Kou 점프-확산 모델 등 4가지 복잡한 모델에 적용해봤습니다. 수렴 증명도 함께 제시했고, 수치 결과도 정확했습니다.

한계와 주의점

에르미트 전개의 차수(order)에 따라 근사 정확도가 달라집니다. 차수가 너무 낮으면 부정확하고, 너무 높으면 계산 비용이 증가합니다. 또한 매우 큰 점프나 극단적 변동성이 있는 경우 수렴 속도가 느려질 수 있습니다.

그래서 투자/실무엔?

자체 옵션 가격결정 엔진을 운영하는 팀이라면, 블랙-숗즈나 몬테칼로만 쓰지 말고 Hermite 전개 기반 방법을 프로토타입해볼 가치가 있습니다. 특히 점프 리스크를 반영해야 하는 원자재·금리 옵션에서 유용할 수 있습니다.

---

월 전체: 이론의 정교함이 실무의 병목을 풀어야 한다

2021년 4월의 논문들을 관통하는 하나의 메시지가 있습니다. "널리 쓰이는 도구들의 숨겨진 한계를 직시하고, 수학적으로 엄밀한 해결책을 제시하자"는 것입니다.

CoVaR 같은 리스크 지표가 백테스트 불가능하다는 것은 금융 실무자라면 반드시 알아야 할 사실입니다. 전력 시장에서 "충격 최소화 > 차익극대화"라는 발견은 실행 알고리즘의 설계 철학을 바꿀 수 있습니다. 랭킹 기반 포트폴리오는 기존 회귀 모델의 한계를 우회하는 실용적 대안입니다. Hermite 다항식 옵션 가격결정은 복잡한 모델에서도 빠르고 정확한 가격을 제공합니다.

모든 연구가 공통으로 말하는 것은 같습니다. 현실은 이론의 가정보다 복잡하지만, 수학적 도구를 적절히 사용하면 그 간극을 줄일 수 있다.

---

함께하기

이런 종류의 연구를 정기적으로 만나고 싶으시다면:

• 📧 ohselab.com에서 뉴스레터를 구독하세요
• 💬 연구에 대해 궁금한 점이 있으시면 언제든 상담 요청하세요
• 🐦 최신 소식은 소셜 미디어에서 팔로우하세요

---

더 알아보기

이 달의 주요 논문들:

관련 논문이 더 궁금하시다면 python3 scripts/kb.py related <arxiv_id>로 확인하실 수 있습니다.