Where Projects Become Outcomes

"프로젝트를 성과로 전환하다"

GPU 2

수요 산정 - 우리에게 필요한 컴퓨팅은 얼마인가 (02/08)

AI 시대의 클라우드·인프라 발주 가이드 · Ep.02얼마나 필요하냐는 질문에아무도 숫자로 답하지 못했다.수요 산정 - 우리에게 필요한 컴퓨팅은 얼마인가 · HFC Consulting예산 심의에서 가장 무서운 질문은 "왜 이렇게 비쌉니까"가 아니다. "이 숫자는 어떻게 나왔습니까"다. 앞의 질문에는 시장 가격으로 답할 수 있다. 뒤의 질문에는 산정 근거로만 답할 수 있다.1화에서 본 예산표의 빈 산정 근거란을 이번 화에서 채운다. 채우는 순서가 있다.산정이 어려운 구조적 이유서버 시대의 용량 산정은 사용자 수와 트랜잭션으로 계산했다. AI 시대의 수요는 구조가 다르다. 학습과 추론이라는 성격이 전혀 다른 두 수요가 섞여 있기 때문이다. 학습은 일시적이고 대규모다. 시작과 끝이 있고, 끝나면 자원을 반납할..

모델은 빌릴 수 있다, 인프라는 준비해야 한다 (01/08)

AI 시대의 클라우드·인프라 발주 가이드 · Ep.01모델은 한 달이면 바꾼다.인프라 계약은 3년을 간다.모델은 빌릴 수 있다, 인프라는 준비해야 한다 · HFC ConsultingAI 시범사업 보고회는 박수로 끝났다. 본사업 예산 심의는 침묵으로 시작됐다. 예산표에서 가장 큰 숫자는 모델 사용료가 아니었다. 클라우드와 컴퓨팅 비용이었다. 그리고 그 항목 옆의 산정 근거란은 비어 있었다.모델은 좋아졌고, 데이터는 정비했다. 이제 마지막 질문이 남는다. 그것이 돌아갈 자리는 누가, 어떤 계약으로 준비하는가.사던 시대에서 배정받는 시대로인프라 조달의 지형이 바뀌었다. 서버를 구매하던 시대에서 클라우드를 구독하는 시대로, 그리고 이제 컴퓨팅을 배정받는 시대로 간다. 전남 해남에 착공한 국가 AI 컴퓨팅센터가 ..