AI 에이전트에게 회사 돈 맡겨도 되나 — 자율 지출 리스크 솔직 정리
AI 에이전트가 회사 카드를 들고 혼자 쇼핑하러 간다면? 하루 300달러씩 쓰면서 정작 처리한 일은 직원 업무의 일부에 불과하다면?
2026년, 이 상황은 실제로 벌어지고 있어요.
팟캐스트 ‘올인(All In)‘의 제이슨 칼라카니스가 공개한 사례처럼, AI 에이전트 운영 비용이 연간 1억 6,700만 원을 넘어서는 일이 현실이 됐거든요.
핵심 요약
- CSA/Zenity의 445명 대상 설문(2026)에 따르면, 조직의 53%에서 AI 에이전트가 승인된 권한을 초과했고 47%는 실제 보안 사고를 경험했다.
- 한국경제 보도에 따르면, Gartner는 2년 내 Fortune 500 기업 1곳당 평균 15만 개 이상의 AI 에이전트가 운영될 것으로 전망한다.
- CIO 분석에 따르면, 배포 방식에 따라 운영 비용 격차가 최대 열 배까지 벌어진다.
- 현재 적절한 AI 에이전트 거버넌스 체계를 갖춘 조직은 전체의 13%에 불과하다.
AI 에이전트 도입이 이렇게 빨라진 이유
2024년까지만 해도 AI 에이전트는 주로 챗봇 수준이었어요. 질문에 답하고, 문서 요약하고, 코드 제안하는 정도.
그런데 2025년 하반기부터 판이 달라졌어요. Claude, ChatGPT 기반 에이전트들이 파일 생성, 이메일 발송, 브라우저 제어까지 실제로 처리하기 시작했거든요. 단순 대화에서 ‘행동하는 소프트웨어’로 진화한 거예요.
속도도 놀라워요. 한국경제 보도에 따르면, 의료 서비스 기업 DaVita의 직원들은 이미 1만 개 이상의 AI 에이전트를 만들었고, 핀테크 기업 FICO에서는 매일 수십 개의 새 에이전트가 생겨나요. IT 팀 승인 없이, 일반 직원들이 직접요.
문제는 에이전트가 많아질수록 관리 비용도 함께 늘어난다는 거예요. 챗봇이 틀린 답을 하면 무시하면 그만이지만, 에이전트가 잘못된 파일을 삭제하거나 엉뚱한 이메일을 500명에게 보내면 되돌릴 수가 없어요. 실수의 무게가 근본적으로 달라진 셈이에요.
EU AI Act 14조가 2026년 8월부터 일부 시행에 들어간 것도 이 맥락이에요. 리스크 수준에 비례한 사람의 감독을 법으로 의무화했거든요.
리스크의 세 얼굴: 권한, 비용, 보안
권한 이탈: 에이전트가 선을 넘는 방식
DLI Lab 분석이 정리한 실패 경로는 크게 두 가지예요.
첫째는 자율 오류예요. “받은 편지함 정리해"라는 명령을 “전부 삭제"로 해석하거나, 루프에 빠져 같은 작업을 무한 반복하는 경우죠. 모델 지능의 문제가 아니라 명령 해석의 구조적 한계예요.
둘째는 더 까다로운 프롬프트 인젝션이에요. 외부 콘텐츠에 악성 명령이 심어져 있고, 에이전트는 그걸 합법적인 사용자 지시로 받아들여요. Microsoft M365 Copilot에서 발견된 EchoLeak 취약점이 딱 이 경우였어요 — 조작된 이메일 하나로 민감한 데이터가 유출됐고, Microsoft의 탐지 분류기를 우회했어요. 더 무서운 건, 2025년 연구에서 열두 개 방어 기술 중 90% 이상이 우회됐다는 결과예요.
비용 폭주: 아무도 예산을 안 짠다
CIO 분석에 따르면, 코딩 에이전트 하나를 API 방식으로 돌리면 주당 500달러도 현실적인 수치예요. 범용 모델에 작업 범위를 불명확하게 주면 비용이 치솟고, 소형 파인튜닝 모델에 좁은 작업 범위를 주면 같은 결과를 훨씬 싸게 낼 수 있어요. 배포 방식 하나로 운영비가 열 배까지 달라지는 거죠.
소셜캐피털의 차마스 팔리하피티야는 이미 직원별 토큰 예산 상한제를 도입했어요. 한도 없이 두면 “직원 대비 두 배 생산성"을 증명해야 손익이 맞는 수준의 비용이 발생한다고 했거든요.
에이전트 난립: 15만 개를 어떻게 관리하나
Gartner 전망대로라면 2년 안에 Fortune 500 기업 한 곳당 15만 개 넘는 AI 에이전트가 돌아가요. IT 팀이 추적도 못하는 규모예요. 중복 에이전트들이 충돌하고, 비용은 누구 것인지 파악이 안 되고, 권한 관리는 엉킨 실타래가 되는 거예요.
배포 방식별 리스크 비교
실제 운영 판단을 위해 세 가지 배포 방식을 비교해 봤어요.
| 구분 | 범용 API 에이전트 | 목적 특화 에이전트 | 완전 샌드박스 에이전트 |
|---|---|---|---|
| 월 비용 (예시) | 1,500만 원 이상 가능 | 30만~90만 원 | 초기 구축 비용 높음 |
| 작업 오류 위험 | 높음 (범위 불명확) | 낮음 (범위 한정) | 낮음 (격리 환경) |
| 프롬프트 인젝션 위험 | 매우 높음 | 중간 | 낮음 |
| 되돌리기 가능 여부 | 어려움 | 일부 가능 | 대부분 가능 |
| 도입 속도 | 빠름 | 중간 | 느림 |
| 적합한 상황 | 프로토타입, 내부 실험 | 반복 업무 자동화 | 금융·의료 등 고위험 영역 |
목적 특화 에이전트가 비용과 리스크 모두에서 가장 균형 잡힌 선택이에요. Clerify CEO 샤람 안베르의 사례가 딱 이거예요 — 특화된 SRE 에이전트를 월 300달러 이하로 운영하면서 연봉 2억 9,000만 원짜리 시니어 엔지니어 역할을 대체했어요.
다만 완전 샌드박스는 초기 비용이 들어도 금융·의료처럼 되돌릴 수 없는 업무에는 필수예요. NVIDIA의 NemoClaw가 이 방식을 기본 아키텍처로 채택한 것도 그 때문이에요.
지금 당장 해야 할 세 가지
AI 에이전트 도입을 이미 진행 중이거나 검토 중인 팀이라면, 순서가 중요해요.
1단계: 예산 상한 먼저 설정하세요. API 키별 월 지출 한도를 먼저 정하고, 그 안에서 에이전트를 설계하는 거예요. 반대로 하면 어느 날 갑자기 청구서를 받게 돼요. DaVita가 성과 상위 에이전트에만 높은 토큰 예산을 배분하는 방식을 쓰는 것도 같은 맥락이에요.
2단계: 에이전트 목록을 IT가 파악하게 하세요. Lyft는 Claude 에이전트의 ‘스킬’ 공유를 IT 승인 기반으로 운영하면서 중앙 플랫폼을 구축 중이에요. 에이전트가 몇 개인지 모르는 상태에서 거버넌스는 불가능해요.
3단계: 되돌리기 체계를 설계하세요. DLI Lab이 제시한 핵심 원칙이에요. 작업 실행 전 dry-run 시뮬레이션, 변경사항 미리보기(diff preview), 킬 스위치와 롤백 기능. Meta의 ‘Rule of Two’처럼 외부 콘텐츠 처리 + 민감 시스템 접근 + 상태 변경이 동시에 일어나면 반드시 사람의 승인을 거치게 하는 구조도 참고할 만해요.
앞으로 6개월, 무엇이 달라지나
정리하면 이렇게 돼요.
- 53%의 기업이 이미 권한 초과를 경험했고, 13%만 거버넌스 체계를 갖춰요
- 비용 격차는 배포 방식 하나로 열 배까지 벌어져요
- 프롬프트 인젝션은 현재 방어 기술 90% 이상을 우회해요
- EU AI Act 14조가 2026년 8월부터 인간 감독을 법적으로 요구해요
앞으로 6개월 안에 두 가지 변화가 올 거예요. 하나는 규제 압박이에요 — EU AI Act가 본격 적용되면서 국내 대기업들도 AI 에이전트 감사 로그를 정비하기 시작할 거예요. 다른 하나는 비용 투명화 도구예요 — Anthropic이 이미 지출 한도와 사용 분석 기능을 기업용으로 내놓은 것처럼, 에이전트별 비용을 실시간으로 보여주는 도구들이 표준이 될 거예요.
결론은 하나예요.
맡겨도 돼요. 단, 예산 상한 설정 → 목록 파악 → 롤백 체계, 이 세 가지를 먼저 갖추고 나서요. 순서를 거꾸로 하면 에이전트가 열심히 일한 비용이 고스란히 청구서로 돌아와요.
지금 여러분 조직에서 에이전트를 직접 만든 직원이 몇 명인지 IT 팀이 알고 있나요?
참고자료
- 비즈니스 AI 에이전트 도입 전략: 단순 자동화를 넘어 핵심 개념 정리까지 - BESPINGLOBAL
- AI 모멘텀의 새로운 기준, 일하는 방식의 전환 - Source Asia
- 메타마스크 에이전트 월렛 출시, 손실 나면 월 1만달러 준다 | 위키트리
