사람 없이 내린 결정이 1조 원이 됐다 - 발주한 시스템에 사람의 자리가 있는가

HFC 이슈 브리핑 · Brief 19

기계가 계정을 지웠다.
벌금은 1조 원을 넘었다.

사람 없이 내린 결정이 1조 원이 됐다 · HFC Consulting

---

운전자가 아침에 앱을 열었다. 화면은 잠겨 있었다. 어제까지 일하던 계정이 사라졌다. 이유를 설명해 주는 사람은 없었다. 결정을 내린 것도 사람이 아니었다.

2026년 8월 21일, 네덜란드 개인정보보호청(AP)이 이 결정 방식에 가격을 매겼다. 8억 2,499만 유로. 원화로 1조 원을 넘는 금액이다.

무슨 일이 있었나

로이터가 결정 문서를 근거로 단독 보도했고, 규제당국은 결정 사실을 확인했다. 보도에 따르면 우버는 2018년부터 2022년까지 소프트웨어로 운전자의 행동 기록과 고객 평점을 추적했고, 기준에 걸린 계정을 자동으로 정지하거나 삭제했다. 이 과정에 사람의 개입은 없었다. AP는 이를 EU 개인정보보호법(GDPR) 제22조 위반으로 판단했다. 중대한 영향을 미치는 결정을 완전 자동화된 방식만으로 내려서는 안 된다는 조항이다.

벌금 규모는 GDPR 역사상 두 번째다. 2023년 메타의 12억 유로에 이어선다. AP 부의장은 보도에서 이렇게 말했다. "중대한 결과를 낳는 결정을 컴퓨터가 혼자 내려서는 안 된다." 우버는 처분이 불균형적이라며 항소 방침을 밝혔고, 현재는 인간 검토와 이의 절차를 갖추고 있다고 해명했다. 8월 26일 기준 결정 전문은 공개되지 않았다. 항소가 예고된 만큼 이 처분은 아직 확정된 것이 아니다.

배경: 조항은 오래전부터 있었다

이 사건은 대형 유출 사고가 아니다. 시스템이 설계된 대로 작동한 결과다. 보도에 따르면 발단은 프랑스 전직 운전자가 모은 170여 명의 진정이었다. 계정이 정지된 운전자들은 수익이 끊겼고, 번복을 요구할 창구를 찾지 못했다.

GDPR 제22조는 2018년 시행 때부터 있던 조항이다. 오래 잠들어 있다가 이번에 역대급 청구서로 깨어났다. 주목할 대목은 수신인이다. 벌금은 알고리즘을 만든 개발 조직이 아니라, 그것을 운영한 사업자에게 부과됐다. 보도에 따르면 우버가 네덜란드에서 받은 제재는 이번이 네 번째이고, 액수는 60만 유로에서 1,000만, 2억 9,000만, 그리고 8억 2,499만 유로로 커져 왔다. 앞선 두 건도 항소 중이다.

전망: 인간 개입이 규제의 표준어가 된다

항소는 수년이 걸릴 것이다. 그러나 신호는 이미 시장에 전달됐다. 계정 정지만의 문제가 아니다. 채용 서류 필터링, 신용 평가, 부정수급 탐지, 공급자 평가까지, 사람에 관한 결정을 시스템이 단독으로 내리는 구조라면 같은 질문을 받게 된다. 마지막에 사람이 있었는가.

국내도 같은 방향이다. 개인정보보호법에는 자동화된 결정에 대한 정보주체의 거부·설명 요구 권리가 2024년 3월부터 시행되어 있고, AI 기본법은 고영향 AI에 사람의 관리·감독을 요구한다. 발주기관이 도입하는 민원 처리, 심사 지원, 탐지 시스템의 상당수가 이 범위에 걸린다. 유럽의 벌금은 남의 일이지만, 조항의 구조는 남의 일이 아니다.

HFC 진단

이 벌금의 수신인은 운영자다 — 책임은 시스템을 발주해 운영하는 조직에 귀속된다. 그래서 인간 개입은 구축 후에 붙이는 기능이 아니라 요구사항 정의 단계의 설계 항목이다. 발주자가 명문화할 것은 넷이다. ① 시스템이 단독으로 내리는 결정의 목록 ② 사람이 개입하는 지점과 그 사람의 권한 — 결정을 번복할 수 있어야 개입이다. 승인 버튼만 누르는 형식적 개입은 인정받기 어렵다 ③ 결정 이력과 판단 근거를 남기는 로그·설명 산출물 ④ 이 전부를 확인하는 검수기준. 계약서에는 자동화된 결정으로 발생하는 책임의 분담을 넣는다.

체크포인트

발주자 체크포인트 — 자동 결정 목록화 / 인간 개입 지점과 번복 권한 설계 / 개입의 실질성 검증 / 결정 로그·설명 산출물 요구 / 계약상 책임 분담 명문화

기계는 빠르게 결정했다. 청구서는 사람의 조직으로 돌아왔다. 시스템에 사람의 자리를 설계하는 일은 비용이 아니라, 1조 원짜리 보험이다.

도입하려는 AI에 사람의 자리가 있습니까?

HFC컨설팅은 발주기관의 관점에서 AI 시스템의 요구사항 정의와 검수기준 설계를 지원합니다. 자동화된 결정의 범위 획정, 인간 개입 지점 설계, 책임 분담 조항 검토가 필요하시면 문의해 주십시오.

changks@hfcconsulting.co.kr

1영업일 이내 답변 · 주식회사 에이치에프씨 컨설팅 · 대표이사 장기석

📎 더 읽을거리

TechCrunch — Uber faces fine of nearly $1B over automated driver suspensions : 벌금 개요와 우버의 항소 입장 정리
The Next Web — Uber is fined 825 million euros over automated driver suspensions : GDPR 벌금 순위와 규제당국 입장
PPC Land — Dutch regulator fines Uber 825 million euros : 위반 기간·벌금 산정 근거 상세

※ 이 글은 일반적인 정보 제공을 목적으로 하며 법률 자문이 아닙니다. 본문의 사실관계는 2026년 8월 26일 기준 공개 보도를 근거로 하였고, 네덜란드 개인정보보호청의 결정 전문은 미공개 상태이며 우버의 항소가 예고되어 있어 처분 내용은 확정 전입니다. 개별 사안에 대한 법률적 판단은 반드시 전문가와 상의하시기 바랍니다.

---

📚 HFC 이슈 브리핑

◀ 이전 브리핑 · 지운다던 프롬프트가 30일을 남는다

브리핑 전체 보기 →