AI Agent의 권한, 어디까지 허용하는가 (06/08)

AI 거버넌스 구축 가이드 · Ep.06

Agent는 밤새 일한다.
승인자는 잠들어 있다.

AI Agent의 권한, 어디까지 허용하는가 · HFC Consulting

---

1기 4화의 장면을 기억하는 독자가 있을 것이다. 새벽에 AI Agent가 의존성 라이브러리를 최신 버전으로 올렸고, 아침에 호환성 문제로 빌드가 깨졌고, 승인한 사람은 아무도 없었다. 그때의 질문은 "이것이 변경관리 대상인가"였다. 1년이 지난 지금 Agent는 코드 수정을 넘어 테스트 실행, 배포 준비, 티켓 처리까지 위임받는다. 질문도 자랐다 — 어디까지 맡길 것인가.

답은 전면 허용도 전면 금지도 아니다. 행위의 성격에 따라 경계를 긋는 것이고, 경계는 사고가 나기 전에 그어야 경계다.

권한 3분류 — 되돌릴 수 있는가로 가른다

분류 기준은 기술의 종류가 아니라 행위의 성격이다. 핵심 질문은 두 개다. 이 행위는 실패했을 때 즉시 되돌릴 수 있는가. 이 행위는 운영 자산과 대외 관계에 영향을 주는가.

분류	기준	예시
자율 허용	즉시 되돌릴 수 있고 운영에 무영향	개발 환경 코드 작성, 테스트 실행, 문서 초안
기록 후 보고	되돌릴 수 있으나 공유 자산에 영향	공용 저장소 반영, 설정 변경, 티켓 상태 변경
사전 승인	되돌리기 어렵거나 운영·대외 영향	운영 배포, 의존성 변경, 데이터 삭제, 대외 발송

1기 4화의 새벽 사건을 이 표에 대면 답이 나온다. 의존성 라이브러리 변경은 세 번째 열이다. Agent가 유능해서가 아니라, 그 행위가 되돌리기 어렵기 때문이다. 분류의 주어는 Agent가 아니라 행위다. 같은 Agent라도 어떤 일은 자율로, 어떤 일은 승인 후에 한다.

규정에 넣을 문구

① 권한 분류 조항
"AI Agent에 위임하는 작업은 별표의 권한 분류표에 따라 자율 허용, 기록 후 보고, 사전 승인의 3단계로 구분한다. 분류표에 없는 신규 작업 유형은 사전 승인으로 취급하며, 변경관리 회의에서 분류를 확정한다."

② 활동 기록 조항
"Agent의 모든 자율 수행 내역은 로그로 자동 기록하며, 기록 후 보고 등급의 행위는 [일간] 단위로 담당자가 확인한다."

③ 중지 권한 조항
"담당자는 Agent의 이상 행동 인지 시 즉시 중지시킬 수 있는 수단을 상시 확보하며, 중지 절차는 신규 Agent 도입 시점에 검증한다."

예상 반론과 대응

반론 1. "일일이 승인받게 하면 Agent를 쓰는 의미가 없습니다."
대응. 3분류에서 사전 승인은 셋 중 하나일 뿐이다. 경계가 명확할수록 자율 허용 영역은 오히려 넓어진다. 경계 없는 조직은 사고 한 번에 전면 금지로 회귀하고, 그것이야말로 Agent를 쓰는 의미를 없앤다. 경계는 자율의 제한이 아니라 자율의 조건이다.

반론 2. "분류표를 누가 관리합니까. 작업 유형은 계속 늘어날 텐데요."
대응. 그래서 ①에 기본값을 넣었다 — 분류표에 없는 것은 사전 승인. 새 유형이 쌓이면 변경관리 회의에서 일괄 분류한다. 관리 주체와 주기는 마지막 편의 운영 체계에서 확정한다.

경계는 고정선이 아니라 조정선이다. 같은 작업이라도 Agent의 수행 이력이 쌓이면 분기 재검토에서 한 단계 완화할 수 있다 — 사전 승인에서 기록 후 보고로, 기록 후 보고에서 자율 허용으로. 완화의 근거는 감이 아니라 기록이다. ②의 활동 로그에서 해당 작업 유형의 무사고 이력이 확인될 때만 내린다. 반대로 사고가 나면 즉시 한 단계 조인다. 이렇게 운영되는 분류표는 조직이 Agent를 신뢰하는 속도를 그대로 보여주는 계기판이 된다.

Agent 권한 체크포인트 — 행위 기준 3분류(자율/기록/승인) / 미분류 작업은 사전 승인 기본값 / 자율 수행 로그 자동 기록 / 즉시 중지 수단 상시 확보 / 위임 결정 자체를 ADR로 기록 (5화 연계)

Agent의 권한 설계는 앞으로 몇 년간 이 연재에서 가장 빨리 낡을 주제이기도 하다. Agent의 능력이 분기마다 달라지기 때문이다. 그래서 이번 편의 핵심은 분류표의 내용이 아니라 분류표를 조정하는 절차다. 내용은 낡아도 절차가 살아 있으면 체계는 따라간다. 도구, 데이터, 게이트, 기록, 권한 — 뼈대가 섰다. 남은 것은 이 체계를 움직이는 사람이다. 활용 격차가 사람 문제가 되기 전에 — 다음 편이다.

※ 본 연재의 규정·양식 템플릿은 일반적 참고용이며, 조직의 규모·규제 환경에 맞는 조정이 필요합니다.

📎 더 읽을거리
· NIST AI Risk Management Framework — 자율 시스템의 권한·통제 설계 참조 틀
· Architectural Decision Records (ADR) — 위임 결정을 기록으로 남기는 양식

HFC Consulting의 관점

Agent 도입을 검토 중이시라면, 위임하려는 작업 목록을 보내 주십시오. 3분류 기준으로 초기 권한 분류표를 함께 만들어 드립니다.

✉ changks@hfcconsulting.co.kr

1영업일 이내 답변 · 주식회사 에이치에프씨 컨설팅 · 대표이사 장기석

---

📚 연재 · AI 거버넌스 구축 가이드
◀ 이전 편 (05/08) 프롬프트 시대의 의사결정 기록
다음 편 ▶ (07/08) 활용 격차가 사람 문제가 되기 전에
연재 전체 보기 →