AI가 금융의 '라스트 마일'을 삼키고 있다

월스트리트의 퀀트 데스크에는 오래된 격언이 하나 있다. "알파는 리서치에서 나오지만, 수익은 실행에서 결정된다." 아무리 정교한 시그널을 잡아내도 실제 주문이 체결되는 순간 슬리피지가 발생하면 백테스트 위의 아름다운 수익 곡선은 현실에서 무참히 깨진다. 이른바 '라스트 마일' 문제다. 그리고 지금, AI가 바로 그 라스트 마일을 삼키기 시작했다.

최근 Frontiers in Artificial Intelligence에 발표된 논문 하나가 퀀트 커뮤니티의 시선을 끌었다. Limit Order Book Transformer, 줄여서 LiT라 불리는 이 모델은, 호가창(Limit Order Book) 데이터를 트랜스포머 아키텍처로 직접 해석한다. 기존의 CNN+LSTM 조합이 지배하던 시장 미세구조 예측 영역에서, 순수 트랜스포머 기반 접근이 기존 최고 성능을 일관되게 뛰어넘었다는 점이 핵심이다.

CERN에서 입자 충돌 데이터를 분석하던 시절을 떠올리면, 이 연구가 왜 중요한지 직관적으로 느껴진다. 입자물리학에서 검출기가 포착하는 신호는 시간과 공간에 걸쳐 복잡하게 얽혀 있다. 호가창도 마찬가지다. 매 밀리초마다 쏟아지는 매수·매도 주문은 가격 레벨이라는 공간 축과 시간 축을 동시에 갖는 다차원 데이터다. LiT가 주목받는 이유는 바로 이 시공간적 의존성을 패치(patch) 구조와 셀프 어텐션으로 포착하는 방식에 있다. 컨볼루션 레이어 없이도, 아니 오히려 컨볼루션을 제거함으로써 더 유연하게 호가창의 심층 구조를 학습한다.

여기서 한 발짝 물러나 더 큰 그림을 보자. LiT는 하나의 논문에 불과하지만, 이것이 가리키는 방향은 훨씬 광범위하다. Ben Lorica가 Gradient Flow 뉴스레터에서 정리한 2026년 금융 AI의 지형도를 보면, 우리는 지금 패러다임 전환의 한가운데 서 있다.

첫 번째 축은 파운데이션 모델의 금융 특화다. Time Series Foundation Model(TSFM)이 이상 탐지와 예측에서 새로운 벤치마크를 세우는 것은 이미 진행 중인 이야기이고, 더 흥미로운 움직임은 Relational Foundation Model(RFM)의 부상이다. 그래프 트랜스포머를 활용해 공급망 연결, 고객-상품 계층 등 비즈니스 네트워크의 상호의존성을 모델링하는 이 접근법은 기존의 수작업 피처 엔지니어링을 우회한다. 퀀트의 언어로 말하면, 알파 시그널을 찾는 것이 아니라 알파가 전파되는 네트워크 자체를 학습하는 것이다.

두 번째 축은 멀티모달 통합이다. 텍스트 중심의 LLM에서 벗어나, 실적 발표 콜의 음성 톤, 정책 회의 영상, 정형 재무제표, 그리고 틱 데이터를 하나의 임베딩 공간에서 동시에 소화하는 Multimodal Financial Foundation Model(MFFM)이 등장하고 있다. 인간 애널리스트가 경영진의 목소리 톤에서 자신감을 읽고, 숫자에서 트렌드를 추출하고, 차트에서 모멘텀을 감지하는 그 복합적 판단을 기계가 단일 추론 파이프라인으로 재현하려는 시도다.

세 번째 축, 그리고 가장 실질적인 변화는 실행 자율화다. LiT 같은 모델이 호가창의 유동성과 단기 가격 움직임을 예측하는 것은 시작에 불과하다. 이 예측 위에 자율 에이전트를 올리면 이야기가 달라진다. 가격 예측을 넘어 실시간으로 체결 전략을 조율하고, 변동성 급등 시 슬리피지를 최소화하며, 심지어 거래 상대방과의 '협상'까지 자동화하는 시스템이 현실로 다가오고 있다. 매매의 라스트 마일이 인간의 손을 떠나는 순간이다.

물론 이 변화에는 그림자가 따른다. 금융 AI의 프로덕션 배포에서 가장 뜨거운 화두는 역설적이게도 '작은 모델'이다. 700억 파라미터 프론티어 모델의 추론 비용은 실시간 사기 탐지나 밀리초 단위 트레이딩에는 감당이 안 된다. 2026년의 트렌드는 70억 파라미터 이하의 Small Language Model(SLM)이 특정 도메인에서 프론티어급 성능을 내는 방향으로 이동하고 있다. 에어갭 서버에서 민감 데이터를 외부에 노출하지 않고 정교한 추론을 돌릴 수 있다는 것은, 규제가 엄격한 금융권에서 결정적인 이점이다.

거버넌스 측면도 급변하고 있다. EU AI Act의 영향으로 '주기적 모델 검증'은 옛말이 되어가고, 모든 추론의 데이터 계보를 실시간 추적하고 자동으로 규제 준수 증거를 생성하는 'compliance-as-code'가 표준으로 자리잡고 있다. 모델 드리프트와 공정성 위반을 사후에 감사하는 것이 아니라, 발생하는 순간 동적으로 관리하는 시스템이다.

물리학자로서, 그리고 퀀트 리서처로서 이 흐름을 바라보면 한 가지 확신이 생긴다. AGI 논쟁은 흥미롭지만, 실제 세계를 바꾸는 것은 도메인 특화 AI다. 감사를 통과하고, 레이턴시 예산을 맞추고, 지저분한 프로덕션 데이터 위에서 살아남는 AI. 지금 금융에서 벌어지고 있는 일이 정확히 그것이다.

호가창 위의 트랜스포머는 단순히 새로운 논문 하나가 아니다. 그것은 AI가 금융의 마지막 성역 — 주문 실행이라는 물리적 행위 — 까지 침투하기 시작했다는 신호다. 퀀트의 세계에서 알파를 찾는 게임은 이미 AI가 지배하고 있었다. 이제 그 알파를 수익으로 전환하는 실행의 게임마저 기계의 영역으로 넘어가고 있다. 다음에 당신이 주식을 매수할 때, 반대편에서 주문을 받는 것이 사람인지 에이전트인지 — 이미 구분이 불가능한 시대가 왔을지도 모른다.

---

🔗 Sources