AI는 차세대의 어디에 들어가는가 (06/08)

AI 시대의 금융 차세대 전환 가이드 · Ep.06

새 심장은 준비됐다.
이제 무엇을 뛰게 할 것인가.

AI는 차세대의 어디에 들어가는가 · HFC Consulting

---

요즘 금융권 차세대 RFP에는 AI라는 단어가 빠지지 않는다. 제안요청서의 요구사항 목록 어딘가에, AI 기반 무엇무엇이라는 항목이 한두 줄 들어가 있는 식이다. 문제는 그 단어가 대개 목적 없이 적혀 있다는 것이다. 어디에, 어떤 조건으로, 무엇을 검증하고 들어가는지가 비어 있으면, AI 항목은 제안서의 장식이 되고 검수의 분쟁이 된다.

이번 편은 그 공란을 채우는 지도다. 자리마다 기대가 다르고, 무엇보다 규제 요건이 다르다. 어디에 넣는가를 정하는 순간, 무엇을 검증해야 하는가가 따라 정해진다.

적용 지도 - 네 개의 자리

자리	전형적 활용	규제·검증의 무게
여신·심사	AI 신용평가모형	최고 - 검증체계·설명 요구
이상거래 탐지	FDS 고도화	높음 - 오탐·미탐의 기준 합의
상담·고객 접점	챗봇·상담 지원	중간 - 보안 체크리스트·책임 범위
내부 업무	문서·코드·업무 보조(생성형)	낮음 - 단, 망분리 조건(3화)

발주의 첫 결정은 이 네 자리 중 어디부터 갈 것인가다. 규제 무게가 낮은 내부 업무부터 시작해 검증 체계를 쌓고, 고객에게 영향을 주는 자리로 올라가는 것이 일반적 경로다. 반대로 가는 순간, 사업은 규제 심사 일정에 볼모로 잡힌다. 네 자리를 한 RFP에 뭉뚱그리는 것도 피해야 한다. 자리마다 검증 방법과 책임 구조가 다르므로, 과업은 자리 단위로 쪼개어 정의하고 각각의 검수기준을 붙이는 것이 다툼을 줄인다.

설명할 수 없으면 배포할 수 없다

여신·심사 자리의 무게는 금융 고유의 것이다. 금융위원회는 AI 기반 신용평가모형 검증체계와 금융분야 AI 보안 가이드라인을 내놓으면서 데이터 관리의 적절성, 알고리즘의 합리성, 통계적 유의성을 점검 대상으로 명시했다. 모델이 잘 맞히는 것으로는 부족하고, 왜 그 결론에 이르렀는지 설명하고 검증할 수 있어야 한다는 뜻이다. 발주 문서에서 이것은 성능 지표 옆에 검증·설명 산출물을 나란히 적는 일이 된다. 정확도만 적힌 검수기준은 절반짜리다. 설명의 상대가 감독당국만도 아니다. 대출을 거절당한 고객은 사유를 물을 권리가 있고, 그 물음에 "모델이 그렇게 판단했다"로 답할 수는 없다. 거절 사유의 생성과 기록까지가 심사 AI 과업의 범위다.

생성형 AI의 조건 - 3화의 지도를 다시 편다

내부 업무의 생성형 AI는 망분리 개선 로드맵이 연 길을 따른다. 샌드박스와 보안대책, 그리고 개인신용정보를 다루지 않는다는 조건. 고객 접점의 생성형 AI는 이보다 무겁다. 잘못된 답변의 책임 구조, 답변 기록의 보존, 상담원 이관 기준까지 과업으로 정의되어야 한다. AI 산출물을 제3자가 어떻게 검증하는가는 11기 5화 - AI 산출물을 감리한다는 것의 틀이 그대로 쓰인다. 한 가지 실무적 조언을 보태면, 생성형 AI 과업은 규제 일정과 분리 발주가 가능한 구조로 설계해 두는 것이 좋다. 샌드박스 심사가 늦어져도 차세대 본체의 오픈이 인질로 잡히지 않게 하는 안전선이다.

차세대 설계에 미리 넣어야 할 것

가장 흔한 실수는 차세대를 다 지어 놓고 AI를 얹으려는 것이다. 1화에서 본 대로 AI는 전환의 동인이므로, 수용 구조는 설계 단계의 요구사항이다. 원장 데이터에 실시간으로 접근하는 통로, 모델을 교체해도 업무가 멈추지 않는 분리 구조, 그리고 모든 판단의 검증·감사 로그. 이 셋이 설계에 없으면, AI 과업은 차세대가 끝난 뒤의 별도 공사가 된다.

그리고 어느 자리든 전제는 데이터다. 학습과 검색증강에 쓸 수 있는 데이터의 조건은 12기 5화 - AI에 먹일 수 있는 데이터의 조건에서 다뤘다. 차세대가 데이터 표준화와 품질 정비(5화)를 건너뛰었다면, 새 코어 위의 AI는 낡은 데이터로 훈련된 새 모델이 될 뿐이다. 기반 계층 두 편(12기·13기)과 이 시즌이 하나의 로드맵인 이유가 여기에 있다.

AI 수용 설계 체크포인트 — 적용 자리별 규제 무게 지도와 착수 순서 / 성능 지표와 나란한 검증·설명 산출물 / 실시간 데이터 접근·모델 교체 구조·감사 로그의 설계 반영 / 생성형 AI의 책임 구조와 기록 보존 과업화

보험의 인수 심사, 카드의 한도·부정 탐지도 같은 지도 위에 있다. 자리 이름이 다를 뿐, 규제 무게에 따라 착수 순서를 정하고 자리마다 검증 산출물을 붙인다는 원리는 업권 중립이다.

AI를 넣는 것은 쉽다. 어려운 것은 AI가 틀렸을 때 누가 어떻게 아는가를 설계하는 일이다.

RFP의 AI 항목, 검수 가능한 문장입니까?

HFC컨설팅은 AI 과업의 적용 지도 설계와 검증·설명 요건의 검수기준화를 지원합니다.

changks@hfcconsulting.co.kr

1영업일 이내 답변 · 주식회사 에이치에프씨 컨설팅 · 대표이사 장기석

본 글은 일반적인 정보 제공을 목적으로 하며 개별 사안에 대한 법률·규제 자문이 아닙니다. 인용된 규제·가이드라인은 발행 시점 이후 개정될 수 있습니다.

📎 더 읽을거리

금융분야 인공지능의 신뢰를 높인다 (금융위원회) — AI 신용평가 검증체계·AI 보안 가이드라인 원문

금융분야 망분리 개선 로드맵 (금융위원회) — 생성형 AI 허용 조건의 원문

---

📚 AI 시대의 금융 차세대 전환 가이드 (전 8편)

◀ 이전 편: (05/08) 원장을 옮기는 법 - 계정계 데이터 이관

다음 편 ▶ (07/08) 감독당국과 함께 가는 사업관리

연재 전체 보기 →