AI 시대의 AI 도입 발주 가이드 · Ep.01
시연은 박수를 받았다.
계약은 쓰이지 않았다.
지능을 산다는 것 - 왜 AI 도입은 PoC에서 멈추는가 · HFC Consulting
지난봄의 시연회였다. 생성형 AI가 민원 회신문 초안을 30초 만에 만들어 냈고, 회의실에서 박수가 나왔다. 임원 보고가 올라갔고, 기사도 한 줄 났다. 그리고 가을이 왔다. 본사업 발주는 아직 기안 단계에 있다. 멈춘 것은 기술이 아니었다. 다음 문장을 쓸 사람이 없었다. 이것을 어떻게 사는가, 라는 문장이다.
박수와 계약 사이
멈춰 선 것은 그 기관만이 아니다. 가트너는 2024년 7월, 생성형 AI 프로젝트의 최소 30%가 2025년 말까지 개념검증(PoC) 단계에서 중단될 것으로 전망했다. 사유는 네 가지였다. 데이터 품질, 리스크 통제, 비용 증가, 그리고 불분명한 사업 가치. MIT 연구진의 2025년 보고서를 인용한 포천 보도에 따르면 기업 생성형 AI 파일럿의 95%가 측정 가능한 성과에 도달하지 못했고, 원인은 모델의 성능이 아니라 업무와의 통합 실패였다. 맥킨지의 2026년 조사에서도 같은 결이 확인된다. 개인 생산성이 늘었다는 응답은 10명 중 8명인데, 전사 손익에 영향이 있었다는 응답은 10명 중 4명이 되지 않는다.
숫자들이 가리키는 지점은 하나다. 실패는 모델이 아니라 모델을 조직에 들여오는 설계에서 생긴다. 그리고 그 설계의 절반은 발주 문서와 계약서에서 결정된다. PoC는 성능을 검증한다. 그러나 계약은 성능 외의 전부를 요구한다. 가격의 구조, 검수의 기준, 장애의 책임, 제품의 수명. PoC가 답하지 않은 질문들이 본사업 기안 앞에 줄을 서고, 기안자는 펜을 내려놓는다.
소프트웨어를 사던 언어로는 살 수 없다
발주기관의 조달 언어는 패키지 소프트웨어와 SI 구축의 시대에 만들어졌다. 그 언어의 세 가지 전제를 AI는 전부 배반한다.
| 조달 언어의 전제 | 기존 소프트웨어 | AI 서비스·모델 |
|---|---|---|
| 같은 입력에 같은 출력 | 성립 - 검수는 재현으로 끝난다 | 불성립 - 같은 질문에 다른 답이 돌아온다 |
| 가격은 계약서에 고정 | 성립 - 라이선스·공수 기준 | 불성립 - 토큰·호출량 따라 움직이고, 요율은 벤더 공지로 바뀐다 |
| 제품은 계약 기간보다 오래 산다 | 대체로 성립 | 불성립 - 모델은 수년 안에 단종 공지를 받는다 |
세 가지 불일치는 각각 검수기준, 대가산정, 유지보수 조항을 무력화한다. 불일치를 모른 채 쓰인 계약서는 겉으로는 멀쩡하다. 문제는 가동 후에 온다. 첫 달 청구서가 추정의 세 배로 도착하고, 검수 회의에서 합격의 정의를 두고 공방이 열리고, 2년 차에 벤더의 단종 공지 메일이 수신함에 들어온다. 세 장면 모두 수행사의 잘못이 아니고 발주자의 잘못도 아니다. 문서가 다른 시대에 쓰여 있었을 뿐이다. 첫 번째 불일치가 검수 테이블에서 어떤 장면을 만드는지는 이 블로그의 PMO 실전 노트 35화가 기록해 두었다. "정상 동작할 것"이라는 한 줄로는 합격도 불합격도 선언할 수 없었던 회의실. 그 공백은 운이 나빠서가 아니라, 언어가 없어서 생긴다.
기반은 쌓였다, 마지막 층이 비어 있다
이 연재는 이 블로그의 열일곱 번째 시즌이고, 기술 계층 축의 네 번째 층이다. 데이터 발주(12기)가 AI에 먹일 재료를, 클라우드·인프라 발주(13기)가 그것이 돌아갈 지반을, 보안 발주(16기)가 그 전체를 지킬 성벽을 다뤘다. 재료와 지반과 성벽이 갖춰져도, 그 위에 올릴 지능을 사는 설계가 비어 있으면 건물은 올라가지 않는다. 격납고에 기체가 완성되어 있어도 엔진을 사는 계약이 없으면 비행은 없다.
그래서 이 시즌의 질문은 기술이 아니라 구매다. 무엇을 사는 것인지 정의하고, 선정 기준을 평가표로 바꾸고, 움직이는 가격을 계약에 가두고, 허용 범위로 검수하고, 단종에 대비하고, 환각의 책임을 나누고, 사업이 끝나도 지능이 남게 하는 것. 독자는 발주기관과 발주기업의 정보화 담당자를 먼저 생각했다. AI 도입의 품의서를 쓰고, 예산을 설명하고, 검수 서명란에 이름이 올라갈 사람. 제안서를 쓰는 수행사 쪽에서도 같은 조항들을 반대편에서 읽게 될 것이다. 여덟 편의 설계도는 아래와 같다.
이 연재의 설계도
| 회차 | 다루는 질문 |
|---|---|
| Ep.01 지능을 산다는 것 (이 글) | 왜 AI 도입은 PoC에서 멈추는가 |
| Ep.02 무엇을 사는 것인가 | API 구독, 모델 도입, 과업 내 구축 - 세 갈래의 계약 구조 |
| Ep.03 벤치마크는 제안서가 아니다 | 모델 선정 기준을 우리 업무의 평가표로 바꾸는 법 |
| Ep.04 토큰으로 쓰는 예산 | 종량 과금을 계약에 가두는 법 |
| Ep.05 같은 답을 요구할 수 있는가 | AI 성능 SLA와 검수기준 |
| Ep.06 모델은 단종된다 | 버전 업과 교체 조항 |
| Ep.07 환각의 책임 | AI의 말은 누구의 말인가 |
| Ep.08 지능의 소유 (완결) | 사업이 끝나도 남아야 하는 것들 |
발주 전 세 가지 자문 — 무엇을 사는가(서비스인가 모델인가 과업인가) / 얼마에 사는가(총액이 아니라 구조 - 사용량이 늘면 누가 내는가) / 언제까지 쓰는가(그 모델의 단종일을 벤더에게 물어봤는가)
PoC에서 멈춘 사업은 기술 검증에 실패한 것이 아니다. 구매 설계가 시작되지 않았을 뿐이다. 시연회의 박수는 공짜지만, 그 박수를 가동 중인 시스템으로 바꾸는 것은 계약서의 문장들이다. 박수와 계약 사이의 거리를, 이 여덟 편이 메운다.
본 글은 일반적인 정보 제공을 목적으로 하며, 개별 사안에 대한 법률 자문이 아닙니다. 구체적인 계약·분쟁 사안은 법률 전문가와 상의하시기 바랍니다.
귀사의 AI 도입, PoC 다음 문장이 있습니까
HFC컨설팅은 AI 도입 사업의 발주 설계를 지원합니다. 조달 유형 선정, 평가표·검수기준 설계, 과금·책임 조항까지 — 시연의 박수를 가동 중인 시스템으로 잇는 계약을 만들어 드립니다.
1영업일 이내 답변 · 주식회사 에이치에프씨 컨설팅 · 대표이사 장기석
📎 더 읽을거리
· Gartner, 생성형 AI 프로젝트 30% PoC 후 중단 전망 (2024.7) — 중단 사유 4가지의 원전
· Fortune, MIT 보고서 "기업 GenAI 파일럿 95% 성과 미달" (2025.8) — 실패 원인은 모델이 아니라 통합
· McKinsey, The State of AI 2026 — 개인 생산성과 전사 손익 효과의 간극
'IT 인사이트 > AI 시대의 AI 도입 발주 가이드' 카테고리의 다른 글
| 모델은 단종된다 - 버전 업과 교체 조항 (06/08) (0) | 2026.10.17 |
|---|---|
| 같은 답을 요구할 수 있는가 - AI 성능 SLA와 검수기준 (05/08) (0) | 2026.10.17 |
| 토큰으로 쓰는 예산 - 종량 과금을 계약에 가두는 법 (04/08) (0) | 2026.10.17 |
| 벤치마크는 제안서가 아니다 - 모델 선정의 평가표화 (03/08) (0) | 2026.10.17 |
| 무엇을 사는 것인가 - API, 모델, 구축의 세 갈래 (02/08) (0) | 2026.10.17 |