AI 도입 비용, 예산서에 넣을 항목과 계산법
AI 도입 비용을 예산서에 넣어야 하는 실무자를 위해 비용을 이루는 항목, 항목마다 무엇에 비례하는지, 모델 사용료를 직접 계산하는 식, 시범과 확대로 나눠 예산을 잡는 순서를 정리했습니다.
이 글의 목차
내년 사업 계획서에 "생성형 AI 도입" 한 줄이 들어갔고, 그 옆 칸에 금액을 써야 합니다. 검색해 보면 수백만 원부터 수억 원까지 기사마다 숫자가 다릅니다. 같은 이름의 사업이라도 무엇을 만드느냐에 따라 비용 구조가 완전히 달라지기 때문입니다. 이 글은 남의 견적 숫자 대신, 우리 회사의 비용을 직접 계산할 수 있도록 항목과 계산식, 예산을 잡는 순서를 정리했습니다.
"AI 도입 비용은 얼마인가"에 한 숫자로 답할 수 없는 이유
AI 도입 비용은 크게 세 가지 선택으로 정해집니다. 첫째, 이미 만들어진 서비스를 구독하는지 회사에 맞게 새로 만드는지. 둘째, 외부 모델을 사용량만큼 빌려 쓰는지 회사 안에 장비를 두는지. 셋째, 한 부서에서 시범으로 끝나는지 전사로 넓히는지입니다. 이 세 가지가 정해지기 전의 견적은 모두 어림값입니다.
그래서 예산서는 금액부터가 아니라 항목부터 씁니다.
비용은 무엇으로 이루어지나
| 항목 | 무엇에 비례하나 | 한 번 / 계속 | 놓치기 쉬운 점 |
|---|---|---|---|
| 업무 진단과 과제 설계 | 살펴볼 부서와 업무 수 | 한 번 | 현업 담당자의 인터뷰 시간도 비용입니다 |
| 데이터 준비 | 문서 양, 정리 상태, 권한 정보 유무 | 한 번 + 갱신 | 최신본 가려내기와 권한 정리가 생각보다 오래 걸립니다 |
| 개발과 기존 시스템 연동 | 연동할 시스템 수, 화면 수 | 한 번 | 그룹웨어, 문서 관리 시스템 연동 범위 |
| 모델 사용료 또는 장비 | 사용량(외부 API) 또는 모델 크기(사내 설치) | 계속 | 사용자가 늘면 함께 늘어납니다 |
| 보안 점검과 심의 | 다루는 정보 등급 | 한 번 + 정기 | 심의를 기다리는 기간이 일정에 들어갑니다 |
| 운영과 개선 | 사용자 수, 문서 변경 빈도 | 계속 | 품질 재측정, 문서 갱신, 문의 대응 |
| 교육과 정착 | 사용자 수 | 한 번 + 수시 | 쓰는 사람이 없으면 다른 비용이 모두 낭비가 됩니다 |
표에서 보듯 "계속" 드는 항목이 여럿입니다. 첫해 예산만 보고 결정하면 이듬해 운영비가 빠지는 일이 흔합니다.
모델 사용료는 직접 계산할 수 있습니다
외부 언어 모델을 API로 쓰는 경우, 사용료는 주고받는 글의 양(토큰)에 단가를 곱해 정해집니다. 단가는 공급사와 모델마다 다르고 자주 바뀌므로 반드시 공급사의 최신 가격표를 확인해야 합니다. 계산식은 이렇습니다.
월 사용료 = 월 질문 수 × (질문당 입력 토큰 × 입력 단가 + 질문당 출력 토큰 × 출력 단가)
여기서 입력 토큰에는 직원이 친 질문뿐 아니라 근거로 함께 건네는 문서 조각이 들어갑니다. 사내 문서 검색 AI라면 대부분이 이 문서 조각입니다.
아래는 이해를 돕기 위한 가정 계산입니다. 실제 단가와 토큰 수는 모델과 문서에 따라 달라집니다.
| 가정 항목 | 값 |
|---|---|
| 사용자 | 직원 300명, 한 사람이 하루 1번, 한 달 20일 → 월 6,000건 |
| 질문당 입력 | 4,000토큰(질문과 근거 문단) |
| 질문당 출력 | 600토큰 |
| 단가(가정) | 입력 100만 토큰당 3달러, 출력 100만 토큰당 15달러 |
| 계산 | 입력 2,400만 토큰 × 3달러 + 출력 360만 토큰 × 15달러 = 72달러 + 54달러 |
| 결과 | 월 약 126달러(환율 1,400원 가정 시 약 17만 6천 원) |
사용량이 늘면 이 값은 그대로 곱절이 됩니다.
이렇게 계산해 보면 모델 사용료가 예산의 가장 큰 항목이 아닌 경우가 많습니다. 그보다 데이터를 정리하고, 시스템에 연결하고, 운영하며 품질을 다시 재는 일처럼 사람의 시간이 드는 항목이 더 크게 잡히곤 합니다. 예산 협의에서 시간을 들여 따져 볼 곳도 그쪽입니다.
회사 안에 설치한다면 계산이 달라집니다
데이터를 밖으로 보낼 수 없어 언어 모델을 사내에 설치한다면, 사용료 대신 장비와 운영비가 중심이 됩니다. GPU 서버를 사거나 빌리는 비용, 전기와 냉방, 설치 공간, 모델을 업데이트하고 장애에 대응하는 인력입니다. 사용량이 많고 꾸준할수록 사내 설치가 유리해지고, 사용량이 적거나 들쭉날쭉하면 외부 서비스가 유리합니다. 필요한 GPU 메모리를 계산하는 법은 온프레미스 LLM 구축 글에 정리했습니다.
견적서에 잘 안 보이는 비용
견적서에는 개발비와 사용료가 크게 적히지만, 실제 일정과 비용을 흔드는 것은 다른 곳에 있습니다.
- 문서 최신본 정리: 같은 규정의 여러 판 가운데 무엇이 맞는지 가려내는 일은 현업만 할 수 있습니다.
- 권한 정보 정리: 누가 어떤 문서를 볼 수 있는지가 시스템에 정리되어 있지 않으면 이 작업이 따로 생깁니다.
- 평가용 질문 만들기: 정확도를 재려면 실제 질문과 모범 답안이 필요하고, 이것도 현업의 시간입니다.
- 보안 심의 대기: 심의 일정이 길면 개발이 끝나고도 몇 주를 기다립니다.
- 사용자 교육: 도입 첫 달에 쓰는 법을 알려 주지 않으면 사용률이 오르지 않습니다.
예산은 시범과 확대로 나눠 잡습니다
한 번에 전사 예산을 잡으면 근거가 약하고, 실패했을 때 손실도 큽니다. 두 단계로 나누면 두 번째 예산은 시범의 숫자로 설명할 수 있습니다.
- 01시범 예산
한 부서, 한 업무로 4~8주. 진단, 데이터 준비, 작은 개발, 사용료, 현업 시간을 잡습니다.
- 02숫자로 판단
시작 전에 정한 성공 기준(처리 시간, 재확인 비율, 재사용률)으로 결과를 잽니다.
- 03확대 예산
시범에서 잰 사용량과 효과로 사용자 수를 곱해 사용료와 운영비를 계산합니다.
예산서를 올리기 전 점검표
- 구독형 서비스인지, 회사에 맞게 새로 만드는지 정했다
- 외부 모델을 쓰는지, 사내에 설치하는지 정했다
- 한 번 드는 비용과 매년 드는 비용을 나눠 적었다
- 모델 사용료를 질문 수와 토큰 수로 직접 계산해 보았다
- 현업 담당자가 쓸 시간(문서 정리, 평가, 교육)을 일정에 넣었다
중소기업이라면 정부 지원도 함께 살펴볼 만합니다. 중소기업이 AI 솔루션을 도입할 때 쓸 수 있는 바우처 사업이 해마다 공고되고, 2026년 AI 바우처는 과제당 최대 2억 원 규모로 안내되었습니다(디지털데일리, 2026년 3월). 조건과 일정은 해마다 바뀌므로 공고문을 직접 확인해야 합니다.
자주 묻는 질문
시범 사업 예산은 어느 정도로 잡아야 하나요?
금액보다 범위를 먼저 좁히는 것이 좋습니다. 한 부서의 한 업무, 4~8주로 범위를 정하면 필요한 인력과 사용량이 계산되고, 그 결과로 금액이 나옵니다.
모델 사용료를 줄이는 방법이 있나요?
근거로 건네는 문서 조각의 양을 줄이는 것이 가장 효과가 큽니다. 검색 품질을 높여 꼭 필요한 문단만 건네면 입력 토큰이 줄고 답의 정확도도 함께 오르는 경우가 많습니다.
구독형 서비스와 구축형 중 무엇이 저렴한가요?
일반적인 업무라면 구독형이 시작 비용이 낮습니다. 회사 고유의 문서와 시스템에 깊이 연결해야 하거나, 데이터를 밖으로 보낼 수 없다면 구축형이 필요합니다.
운영비는 어떻게 잡나요?
사용료나 장비 운영비에 더해 문서 갱신, 품질 재측정, 사용자 문의 대응에 드는 시간을 따로 적습니다. 운영을 외부와 함께한다면 이 범위를 계약서에 분명히 적어 두어야 합니다.
예산은 결국 "무엇을 얼마나 바꿀 것인가"의 숫자 버전입니다. 첫 과제를 아직 정하지 못했다면 기업 AI 도입 방법 글에서 순서를 먼저 잡고, 우리 회사 기준으로 계산해 보고 싶다면 AX 컨설팅이나 문의로 현황을 알려 주세요.
