프롬프트가 아니라 뼈대가 뚫렸다 - AI 에이전트 프레임워크 취약점이 발주 검수에 던진 질문

HFC 이슈 브리핑 · Brief 12

프롬프트를 지켰다.
뼈대가 뚫렸다.

프롬프트가 아니라 뼈대가 뚫렸다 - AI 에이전트 프레임워크 취약점이 발주 검수에 던진 질문 · HFC Consulting

---

2026년 8월 5일, 라스베이거스 블랙햇 무대. 체크포인트 연구진이 1년에 걸친 조사 결과를 꺼냈다. 표적은 모델이 아니었다. 기업들이 AI 에이전트를 세울 때 쓰는 뼈대, 프레임워크였다.

결론은 한 문장이다. 프롬프트 주입은 입구일 뿐이고, 정작 구멍은 그 아래 소프트웨어에 있었다.

이슈 요약 - 뼈대에서 11개의 구멍이 나왔다

체크포인트는 LangChain, LangGraph, CrewAI, AutoGen, Microsoft Agent Framework, Google ADK 등 주요 프레임워크 6종에서 취약점 11건을 공개했다. 유형은 낯설지 않다. 안전하지 않은 역직렬화, 서버 측 요청 위조, 경로 조작. 20년 전부터 있던 고전적 결함이다.

Microsoft Agent Framework에서는 세션 체크포인트의 역직렬화 결함이 프롬프트 주입과 결합해 원격코드실행으로 이어졌다. 공격자가 심어 둔 코드는 다른 사용자가 세션을 다시 여는 순간 서버에서 실행된다. Google ADK는 파일 쓰기 권한을 가진 개발 보조 도구가 인증 없는 HTTP API로 노출되어 있었다.

같은 주, 미국 사이버보안청 CISA는 에이전트 개발 플랫폼 Langflow의 취약점(CVE-2026-9198, CVSS 9.8, 무인증 원격코드실행)을 실제 악용 확인 목록(KEV)에 올렸다. 연방기관 조치 시한은 8월 7일. 등재부터 시한까지 사흘이 없었다. 7월 초부터 41개국 244개 IP에서 650건의 악용 시도가 관측된 뒤였다.

배경 - 논의는 모델에 쏠렸고, 뼈대는 비어 있었다

지난 1년, AI 보안 논의는 모델을 향했다. 프롬프트 주입을 막는 가드레일, 답변을 거르는 필터. 예산과 인력도 그쪽에 붙었다.

그 사이 프레임워크는 사실상의 표준이 됐다. 국내 현장도 다르지 않다. 에이전트 구축 제안서의 기술 구성도에는 LangChain과 LangGraph가 관성처럼 들어간다. 그러나 이들은 버전이 빠르게 바뀌는 오픈소스이고, 보안 검토 속도는 기능 추가 속도를 따라가지 못한다. 이번 발표가 보여준 사실은 단순하다. 에이전트 시스템은 AI이기 이전에 소프트웨어이고, 소프트웨어의 오래된 결함은 AI 위에서도 그대로 재현된다.

전망 - 검수의 무게중심이 공급망으로 이동한다

에이전트 보안의 논점은 모델 안전성에서 소프트웨어 공급망으로 넓어질 것이다. 미국은 이미 움직였다. KEV 등재는 연방기관에 시한부 패치 의무를 건다. 프레임워크가 감리와 검수의 정식 대상이 되는 흐름은 국내 공공 AI 사업에도 닿을 것이다.

발주기관 입장에서 질문은 구체적이다. 수급인이 어떤 프레임워크의 어떤 버전을 썼는지 명세로 받고 있는가. 소프트웨어 구성명세(SBOM)를 산출물로 요구하는가. 운영 이관 후 취약점 공지가 나오면, 패치는 누구의 비용이며 며칠 안에 이행되는가.

HFC 진단

HFC 진단 — 이번 이슈의 본질은 신기술 리스크가 아니라 검수기준의 공백이다. 대부분의 AI 사업 RFP는 모델 성능과 답변 품질을 검수기준으로 적는다. 프레임워크 버전 관리, 취약점 대응 시한, SBOM 제출은 비워져 있다. 계약 단계에서 하자담보책임의 범위에 오픈소스 구성요소를 명문화하지 않으면, 운영 단계의 패치 비용은 협상력이 약한 쪽의 몫이 된다.

체크포인트

발주 실무 체크포인트 — RFP에 에이전트 프레임워크 명세와 버전 제출 요구 / 산출물 목록에 SBOM 포함 / 검수기준에 알려진 취약점(KEV 등재 등) 점검 결과 반영 / 하자담보책임과 유지보수 계약에 취약점 패치 시한 명문화 / 운영 단계 보안 공지 모니터링 주체 지정

프롬프트를 지키는 일과 뼈대를 지키는 일은 다른 일이다. 이번 주가 보여준 것은 후자가 비어 있었다는 사실이다. 검수기준에 한 줄을 더하는 비용은 작다. 뚫린 뒤에 치르는 비용은 그렇지 않다.

📎 더 읽을거리
· The Register - Prompt injection isn't the bug, AI agent frameworks are : 체크포인트의 블랙햇 발표와 취약점 11건 상세
· The Hacker News - CISA Flags Langflow RCE as Actively Exploited : CVE-2026-9198의 KEV 등재와 악용 관측 통계
· SecurityWeek - CISA Warns of Exploited Langflow Vulnerabilities : 취약점 기술 구조와 연방기관 조치 시한

AI 사업의 검수기준, 지금 점검받으세요

HFC컨설팅은 발주기관의 RFP 작성, 검수기준 수립, 프로젝트 관리(PMO)를 지원합니다. 에이전트 도입 사업의 보안 검수 항목이 궁금하시면 문의해 주세요.

changks@hfcconsulting.co.kr

1영업일 이내 답변 · 주식회사 에이치에프씨 컨설팅 · 대표이사 장기석

---

📚 HFC 이슈 브리핑 · IT·AI 화제 이슈를 발주자 관점으로 읽습니다
◀ 이전 브리핑 GPU를 사던 시대에서 배정받는 시대로
브리핑 전체 보기 →