AI의 말이 아니라 행동을 검사한다 - 에이전트 평가기준은 검수기준이 된다

HFC 이슈 브리핑 · Brief 35

말은 검사받아 왔다.
행동은 이제부터다.

AI의 말이 아니라 행동을 검사한다 - 에이전트 평가기준은 검수기준이 된다 · HFC Consulting

---

정비소의 리프트가 올라간다. 겉보기에 멀쩡한 차가 공중에 뜬다. 정비사는 보닛을 열지 않는다. 바닥을 본다. 문제는 대개 거기에 있다.

10월 7일, 금융 보안의 검사대에 AI 에이전트가 올랐다. 이번에 보는 곳은 답변이 아니다. 행동이다.

평가가 실행 계층으로 내려왔다

금융보안원은 2026년 10월 7일 「금융분야 AI 에이전트 보안 평가기준(안)」을 마련했다고 발표했다. 발표에 따르면 기준은 6개 영역 17개 점검 항목으로 구성되며, 금융회사 AI 레드티밍에 적용된다. 핵심은 점검 범위의 이동이다. 지금까지의 레드티밍은 모델 계층을 봤다. 탈옥, 시스템 프롬프트 유출, 답변 오류. 새 기준은 실행 계층까지 내려간다. 에이전트가 어떤 권한으로 움직이는지, 어떤 도구를 쓰고 누가 승인하는지, 작업 범위를 벗어나지 않는지, 벗어났을 때 멈출 수 있는지. 네 갈래다. 금융보안원은 올해 말까지 시범 검증으로 항목과 방법을 구체화하고 결과를 「2026 AI 레드팀 리포트」로 공개할 예정이라고 밝혔다. 데일리시큐 보도에 따르면 정식 적용 목표는 2027년이다. 기준은 아직 '안'이다. 항목은 바뀔 수 있다. 방향은 바뀌지 않는다.

말만 보던 검사의 공백

순서가 있다. 지난주 금융권은 AI를 활용한 것으로 추정되는 해킹으로 점검 '범위'의 공백을 확인했다. 이번에 드러난 것은 '계층'의 공백이다. 생성형 AI 시절의 위협은 말이었다. 틀린 답변, 새어 나간 프롬프트. 점검도 말을 겨눴다. 에이전트는 다르다. 계획을 세우고 도구를 집어 시스템을 바꾼다. 금융보안원이 든 예시는 가상의 시나리오지만 구체적이다. 성능 최적화를 지시받은 에이전트가 가용성을 이유로 백신을 끌 수 있다. 메일을 처리하던 에이전트가 비밀번호 재설정 메일을 일상 업무로 간주하고 임의로 비밀번호를 바꿀 수 있다. 판단의 오류가 답변에서 끝나지 않고 시스템의 상태를 바꾼다. 파이낸셜뉴스 보도에 따르면 금융감독원 집계로 올해 8월까지 20개 은행이 실시한 모의해킹 78건 중 9건이 이미 AI 에이전트를 활용했다. 공격을 흉내 내는 훈련에서도 에이전트가 11.5%를 차지한다. 위협은 먼저 와 있었고, 기준이 이제 도착했다.

금융의 기준은 금융에 머물지 않는다

감독기관의 평가기준이 한 산업에 머문 전례는 드물다. 전자금융 기준이 그랬고 클라우드 보안인증이 그랬다. 금융에서 검증된 틀은 공공의 가이드로, 다시 민간 발주의 과업지시서로 옮겨 간다. 더 빠른 경로는 계약이다. 2027년 정식 적용을 기다리지 않고, AI 에이전트 도입 사업의 제안요청서가 이 네 갈래를 먼저 요구하기 시작할 것이다. 수급인에게는 준비의 시간이고 발주자에게는 선택의 시간이다. 기준이 완성되기를 기다릴 것인가, 기준의 골격을 지금 계약 문장으로 옮길 것인가. 10월 9일 기준으로 보도를 통해 공개된 것은 17개 항목의 전문이 아니라 네 갈래의 골격까지다. 그러나 골격만으로도 과업 문장은 쓸 수 있다.

HFC 진단 — 평가기준은 검수기준이 된다

감독기관이 평가 항목을 공표하면 두 가지가 따라온다. 수급인은 그 항목으로 제품을 설명하기 시작하고, 발주자는 그 항목으로 산출물을 검사할 근거를 얻는다. 단, 계약에 썼을 때만이다. 네 갈래를 과업 문장으로 번역하면 이렇다.

① 실행 권한·격리 → "에이전트 계정의 권한 목록과 격리 구성을 산출물로 제출한다"

② 도구 실행·승인 → "에이전트가 호출 가능한 도구 목록과 승인 절차를 명세한다"

③ 작업 범위·결과 확인 → "작업 범위 정의서와 실행 로그를 검수 자료로 제출한다"

④ 자율 실행 제한·중단 → "관리자가 즉시 중단할 수 있는 수단을 검수 단계에서 시연으로 검증한다"

발주자 체크포인트 — 도입했거나 도입 예정인 AI 에이전트의 목록화 / 에이전트별 실행 권한·접근 범위 문서의 존재 확인 / RFP·과업지시서에 실행 계층 4개 축 반영 / 검수 단계에 레드티밍 결과 제출·중단 시연 요구 / 긴급 중단 절차와 책임자 지정 / 「2026 AI 레드팀 리포트」 공개 시 자사 점검 항목과 대조

리프트는 내려오지 않는다. 한 번 바닥을 본 검사는 보닛만 보던 시절로 돌아가지 않는다. 평가기준은 아직 초안이지만 질문은 이미 확정됐다. 그 에이전트는 멈출 수 있는가. 답변이 아니라 행동으로 증명할 차례이고, 발주자의 계약서가 그 증명의 자리를 먼저 만들어 둘 차례다.

AI 에이전트 도입, 과업지시서에 무엇을 써야 할까요

평가기준이 확정되기 전에도 계약은 체결됩니다. HFC컨설팅은 AI 에이전트 도입 사업의 과업범위·검수기준·보안 요구사항 설계를 발주자 관점에서 지원합니다. 지금 준비 중인 사업의 RFP 한 부분이라도 좋습니다.

changks@hfcconsulting.co.kr

1영업일 이내 답변 · 주식회사 에이치에프씨 컨설팅 · 대표이사 장기석

📎 더 읽을거리

AI 에이전트 '실행 단계'까지 점검.. 금융보안원, 보안 평가기준 대폭 확대 (파이낸셜뉴스) — 평가기준 상세와 금융감독원 모의해킹 집계
금융보안원, AI 에이전트 보안 점검 강화…17개 평가항목 마련 (뉴시스) — 6개 영역 17개 항목 구성과 시범 검증 일정
금융보안원, 금융권 AI 에이전트 보안 평가기준 마련 (데일리시큐) — 실행 계층 점검의 의미와 2027년 정식 적용 계획

※ 본 글은 공개된 발표 자료와 언론 보도를 바탕으로 작성한 일반적 정보 제공 목적의 콘텐츠이며, 특정 사안에 대한 법률 자문이 아닙니다. 평가기준(안)의 내용과 적용 범위는 확정 과정에서 변경될 수 있으므로, 개별 계약·규제 대응은 법률 전문가의 자문을 권장합니다.

---

📚 HFC 이슈 브리핑

◀ 이전 브리핑: 점검 목록에 없는 문이 뚫렸다 - 취약점 점검의 범위는 누가 정하는가

브리핑 전체 보기 →