인공지능이 금융 의사결정에 빠르게 침투하고 있지만, ‘왜 그런 판단을 내렸는가’를 설명하지 못하는 이른바 ‘블랙박스’ 문제는 여전히 풀리지 않은 숙제로 남아 있다. 국내 핀테크 연구개발 기업 주식회사 오공일공(영문명 5010 Technologies, 이하 5010)이 이 문제에 정면으로 도전하고 있다. 이 회사는 거대언어모델(LLM)이 직접 수치나 결정을 만들지 않고, 결정론적(deterministic) 계산이 모든 판단의 근거를 산출하도록 설계한 ‘설명가능 AI 기반 시장 위험 탐지·관리 시스템’을 개발 중이다.
“블랙박스 AI로는 금융의 신뢰를 얻을 수 없다”
금융·데이터 분석 시장이 빠르게 확대되면서, 이상 신호와 이상거래, 정보 정합성 왜곡 같은 데이터 위험도 함께 커지고 있다. 특히 분석 시스템이 자동화될수록 사람이 그 판단을 일일이 검증하기는 어려워진다. 개인과 기관 모두 위험 신호를 사전에 걸러내지 못한 채 손실에 노출될 가능성이 높아진 이유다.
문제는 기존의 AI 기반 위험 탐지 기법 상당수가 ‘블랙박스’ 모델에 의존한다는 점이다. 무엇이 위험한지는 출력하더라도, 왜 위험한지를 감사 가능한 근거로 제시하지 못한다. 판단의 재현성과 설명 가능성이 담보되지 않으면, 금융기관이 그 결과를 신뢰하고 활용하기 어렵다.
5010은 이 지점에서 발상을 전환했다. 회사가 내세우는 핵심 원칙은 한 문장으로 요약된다. “거대언어모델은 숫자도 결정도 만들지 않는다. 결정론적 계산이 시스템의 척추이고, LLM은 그 위에서 ‘왜 위험한가’를 설명하는 해석 계층일 뿐이다.”
5010이 개발 중인 엔진의 작동 원리는 명확한 분업 구조에 있다. 시장의 위험을 판정하는 모든 수치는 결정론적 코드가 산출한다. 동일한 입력에는 항상 동일한 출력이 나오므로, 판정 근거를 감사하고 재현하며 검증할 수 있다. 거대언어모델은 이렇게 산출된 위험 점수와 근거 위에 ‘왜 위험한가’를 자연어로 설명하는 역할만 맡는다.
이 구조의 강점은 ‘전략 인지형(strategy-aware)’ 접근에 있다. 동일한 시장 상황도 어떤 전략의 관점에서 보느냐에 따라 정반대의 위험이 된다. 예컨대 거래량 증가와 변동성 확대는 일부 분석 전략에는 우호적 신호지만, 다른 전략에는 위험 요인으로 작용한다. 5010의 엔진은 사전에 정의된 전략 프로파일을 기준으로 현재 시장이 그 전략에 얼마나 위험한지를 판정하고, 그 근거를 인자 단위로 분해해 설명한다.
5010의 기술 로드맵은 성숙도에 따라 세 개의 모듈로 구성된다. 1순위인 SFE(Strategy Fitness Evaluator·전략 인지형 위험 탐지·평가 엔진)는 즉시 사업화가 가능한 핵심 산출물로, 거래 위험을 탐지하고 설명하는 역할을 맡는다. 2순위 QOS(Quant Operating System·다계층 위험관리 운영체계)는 이를 조직 단위 위험관리 체계로 확장하며, 연구·검증·운영 절차를 소프트웨어화해 소수 인력이 대규모 퀀트 조직 수준의 검증 속도를 확보하도록 설계된다. 3순위 IIA(Integrated Intelligent Agent·통합 지능 에이전트)는 장기 원천기술 트랙이다. 자율적으로 판단하는 시스템이 자신의 결정을 얼마나 충실하게 설명하는지, 그 ‘설명 충실성(faithfulness)’을 계측 가능한 연구 대상으로 정식화한다. 다만 회사는 IIA에 대해 “완성형 범용 지능을 목표로 하지 않으며, 제한된 도메인에서 검증 가능한 프로토타입으로 추진한다”고 범위를 명확히 한정하고 있다.
10건 이상의 소스코드 저작권·특허… 검증된 기술자산 위에서 확장
SFE는 백지에서 출발하는 프로젝트가 아니다. 5010은 기존에 개발을 완료한 결정론적 금융지표 연산·결과관리 엔진을 SFE의 계산 척추로 활용하고, 금융시장 상태 분석 엔진을 시장 사실 산출 모듈로 재사용해, 그 위에 전략 인지형 위험 점수와 안전 게이트, 설명 계층을 얹는 확장형 연구개발을 진행하고 있다. 이미 검증된 기술자산 위에서 확장하는 구조여서 개발 위험을 낮추고 상용화 속도를 높일 수 있다는 설명이다.
이러한 기술자산은 지식재산으로도 뒷받침된다. 5010은 결정론적 금융지표 연산, 금융시장 상태 분석·시각화, 실시간 시장데이터 정합성 검증·복구, 금융 포트폴리오 상태관리, 전략 백테스트 결과 시각화 등 금융기관에 SaaS 형태로 공급 가능한 엔진을 모듈 단위로 나눠, 프로그램 소스코드 저작권과 특허를 포함해 총 10건 이상의 지식재산 등록을 완료했다. SFE를 구성하는 일부 모듈은 이미 B2B 기관을 대상으로 한 공급 계약 체결이 시작되고 있다.
투자자 보호와 시장 건전성으로 확장
5010의 결정론적 탐지·설명 구조는 개별 전략의 거래 위험을 넘어, 이상 신호나 이상거래 가능 신호 같은 시장 교란 신호의 탐지로도 확장될 수 있다. 회사는 이를 후속 개발 영역으로 정의하고 있다. 블랙박스 이상거래 탐지가 제공하지 못하는 ‘감사 가능하고 설명 가능한 탐지 결과’를 제공함으로써, 투자자 보호와 시장 건전성 제고에 기여할 수 있다는 것이 회사 측 구상이다.
2024년 설립된 5010은 금융 시장의 위험을 정량적으로 판정하고 그 근거를 설명하는 AI 기술을 만들겠다는 목표 아래, 꾸준히 SaaS 솔루션을 연구해온 기업이다. 판단의 근거를 감(感)이나 직관이 아니라 재현 가능한 수학적 모델로 설명하겠다는 문제의식이 회사의 출발점이었다.
이러한 연구가 쌓이면서, 회사는 자사의 위험 탐지 엔진을 개인이 소비하는 상품이 아니라 금융기관과 핀테크가 신뢰하고 활용할 수 있는 인프라로 제공해야 한다는 방향에 도달했다. ‘설명 가능하고 감사 가능한 금융 AI’라는 기술이야말로 시장 전체의 신뢰 기반이 될 수 있다는 판단에서다. 5010이 위험 탐지 엔진을 라이선스와 API·SDK 형태로 금융기관·핀테크에 B2B로 공급하기로 한 것은 이러한 비전과 사명감의 연장선에 있다. 회사는 서울과 두바이, 미국에 법인을 두고 있다.
회사는 자사를 “금융공학 회사가 아니라 순수 수학적 모델링 기업”으로 규정한다. 화려한 예측을 파는 것이 아니라, 재현 가능하고 감사 가능하며 설명 가능한 기술을 만든다는 것이다. 설명가능하고 감사 가능한 금융 AI 의사결정의 표준을 제시함으로써, 국내 핀테크·AI 산업의 신뢰 기반을 강화하겠다는 목표다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
