수요 산정 - 우리에게 필요한 컴퓨팅은 얼마인가 (02/08)

AI 시대의 클라우드·인프라 발주 가이드 · Ep.02

얼마나 필요하냐는 질문에
아무도 숫자로 답하지 못했다

.

수요 산정 - 우리에게 필요한 컴퓨팅은 얼마인가 · HFC Consulting

---

예산 심의에서 가장 무서운 질문은 "왜 이렇게 비쌉니까"가 아니다. "이 숫자는 어떻게 나왔습니까"다. 앞의 질문에는 시장 가격으로 답할 수 있다. 뒤의 질문에는 산정 근거로만 답할 수 있다.

1화에서 본 예산표의 빈 산정 근거란을 이번 화에서 채운다. 채우는 순서가 있다.

산정이 어려운 구조적 이유

서버 시대의 용량 산정은 사용자 수와 트랜잭션으로 계산했다. AI 시대의 수요는 구조가 다르다. 학습과 추론이라는 성격이 전혀 다른 두 수요가 섞여 있기 때문이다. 학습은 일시적이고 대규모다. 시작과 끝이 있고, 끝나면 자원을 반납할 수 있다. 추론은 상시적이고 변동한다. 이용자가 늘면 따라 늘고, 서비스가 살아 있는 한 끝나지 않는다.

둘을 한 줄의 "GPU 서버 O대"로 뭉뚱그리는 순간 산정 근거는 사라진다. 산정의 시점도 문제다. 이 작업은 예산 요구서를 쓰는 주가 아니라 ISP나 사전 기획 단계에 있어야 한다. 그때 해야 시범 운영의 실측치로 가정을 보정할 시간이 남는다. 시장은 이미 그 규모를 증언한다. IDC 집계로 2026년 1분기 세계 AI 인프라 지출은 897억 달러, 연간 전망은 4,970억 달러다(IDC, 2026). 이 돈의 상당 부분이 근거 없는 산정 위에서 집행되고 있다는 것이 문제다.

과다 산정의 비용, 과소 산정의 비용

과다 산정은 유휴로 돌아온다. 지난 화에서 인용한 대로 세계 클라우드 지출의 29%가 낭비로 추정된다(Flexera, 2026). 켜 두고 쓰지 않는 GPU는 가장 비싼 형태의 유휴다. 공공 사업이라면 감사에서 "과다 도입"으로 지적될 자리이기도 하다.

과소 산정은 더 나쁘게 돌아온다. 서비스는 느려지고, 긴급 증설은 수의계약과 프리미엄 단가로 진행된다. 협상력이 가장 낮은 순간에 가장 비싸게 사는 구조다. 그리고 공급이 배정으로 재편되는 시장에서는, 증설 자체가 대기열에 설 수 있다.

반론 — "클라우드는 탄력적이다. 부족하면 그때 늘리면 되는데 산정이 왜 필요한가."

대응 — 탄력은 기술의 속성이고, 예산은 제도의 속성이다. 공공 예산은 연 단위로 편성되고 증액은 클릭이 아니라 절차다. 탄력이 흡수하는 것은 시간 단위의 변동이지, 연 단위의 오판이 아니다. 배정형 조달이라면 더하다. 늘리는 것 자체가 신청과 심사의 대상이기 때문이다. 탄력을 믿고 산정을 생략한 발주는, 탄력이 가장 필요한 순간에 결재판 앞에 서게 된다.

산정 근거를 문서로 만드는 법

산정 근거는 정답 맞히기가 아니다. 틀릴 수 있는 가정을 검증 가능한 형태로 적어 두는 일이다. 순서는 네 단계다. 워크로드를 분해하고, 단위 수요를 정하고, 피크 배수를 얹고, 성장률을 적는다.

민원 상담 지원 시스템을 예로 들면 이렇다. 추론 수요는 동시 상담 인원, 상담 한 건당 호출 횟수, 요구 응답 시간의 세 숫자에서 나온다. 학습 수요는 모델 규모, 학습 데이터량, 재학습 주기의 세 숫자에서 나온다. 여섯 개의 숫자 각각에 "이 값의 근거는 무엇인가"를 한 줄씩 붙이면, 그것이 산정서의 뼈대다. 숫자는 틀려도 된다. 근거가 있으면 어느 숫자가 틀렸는지 나중에 찾을 수 있다.

구분	학습 수요	추론 수요
성격	일시적, 대규모, 종료 시점 존재	상시적, 변동, 서비스와 함께 지속
산정 기준	모델 규모, 데이터량, 학습 횟수	동시 사용자, 호출량, 응답 시간 요구
적합한 조달	단기 임차, 배정 신청	구독, 약정 할인, 자체 구축 검토

수요 산정서 필수 항목 — 워크로드 목록과 성격 구분 / 단위 수요와 산출 가정 / 피크 배수와 근거 / 연간 성장률과 재검토 주기 / 미사용 시 반납·축소 조건

발주서에 쓰는 문장

산정 근거는 발주자가 혼자 완성할 수 없다. 그래서 RFP에 요구할 산출물로 바꿔야 한다. "제안사는 용량 산정서를 제출하고, 산정 가정과 초과·미달 시의 조정 방식을 명시한다"는 한 문장이 그것이다. RFP에 무엇을 어떻게 요구하는지는 이전 연재에서 다뤘다(RFP 가이드 1화). 데이터 현황 진단이 데이터 발주의 출발점이었듯(12기 2화), 수요 산정서는 인프라 발주의 출발점이다.

가정이 적힌 산정은 틀려도 고칠 수 있다. 가정이 없는 산정은 틀렸는지조차 알 수 없다. 감사와 협상에서 발주자를 지키는 것은 정확한 숫자가 아니라 기록된 가정이다.

산정서는 한 번 쓰고 끝나는 문서가 아니다. 반기마다 실측 사용량과 산정 가정을 나란히 놓고, 어느 가정이 빗나갔는지를 기록하는 재검토 절차까지 과업에 담아야 한다. 재검토가 있는 산정서는 해가 갈수록 정확해지고, 재검토가 없는 산정서는 첫해의 오차를 계약 기간 내내 복리로 키운다.

얼마나 필요한지 알았다면, 다음 질문은 어떤 방식으로 확보하는가다. 사는 길, 빌리는 길, 배정받는 길이 갈라지는 지점으로 간다.

본 글은 일반적인 정보 제공을 목적으로 하며, 개별 사안에 대한 법률 자문이 아닙니다. 구체적인 계약·법률 판단은 반드시 전문가의 자문을 받으시기 바랍니다.

📎 더 읽을거리

IDC: 2026년 AI 인프라 지출 전망 (IDC Blog) — 분기 897억 달러, 연간 4,970억 달러 전망의 원문

Flexera 2026 State of the Cloud (보도자료) — 클라우드 낭비 29% 추정의 출처

HFC의 관점

수요 산정서는 예산 심의와 감사에서 발주 담당자를 지키는 첫 번째 문서입니다. HFC컨설팅은 워크로드 분해부터 산정 가정의 명문화, RFP 요구 문안 작성까지 실무 자문을 제공합니다. 산정 근거란이 아직 비어 있다면 문의해 주십시오.

changks@hfcconsulting.co.kr

1영업일 이내 답변 · 주식회사 에이치에프씨 컨설팅 · 대표이사 장기석

---

📚 AI 시대의 클라우드·인프라 발주 가이드

◀ 이전 편: 모델은 빌릴 수 있다, 인프라는 준비해야 한다 (01/08)

다음 편 ▶ 조달 방식의 선택 - 구축, 구독, 배정 (03/08)

연재 전체 보기 →