GPT-5.6과 Claude Sonnet 5, 모델 고르는 기준

2주가 채 안 되는 사이에 주력 AI 모델이 둘이나 바뀌었습니다. Anthropic은 6월 30일 Claude Sonnet 5를, OpenAI는 7월 9일 GPT-5.6을 내놓았습니다. 두 회사 모두 '사람 대신 여러 단계의 일을 처리하는 능력'을 가장 앞에 내세웠습니다. 사내 AI 서비스를 운영하는 회사 입장에서 중요한 질문은 어느 쪽이 더 좋으냐가 아닙니다. 몇 달마다 바뀌는 모델을, 매번 개발을 새로 하지 않고 바꿔 쓸 수 있느냐입니다.

두 모델 한눈에

가격도 발표됐습니다. 아래는 출력 100만 토큰당 가격입니다. Sonnet 5는 8월 말까지 출시 할인 가격이 적용됩니다.

가격표만 보고 고르면 안 되는 이유

위 그래프만 보면 답이 쉬워 보이지만, 실제 비용은 가격표대로 나오지 않습니다. 같은 일을 시켜도 모델마다 생각하는 데 쓰는 토큰 수가 크게 다르기 때문입니다. 개발자 사이먼 윌리슨은 GPT-5.6 정리 글에서 추론 토큰 수가 모델마다 달라 이제 100만 토큰당 가격은 많은 것을 말해 주지 못한다고 짚었습니다.

그래서 비교 기준은 '토큰당 가격'이 아니라 '일 한 건을 끝내는 데 드는 비용'이어야 합니다. 비싼 모델이 한 번에 맞히고, 싼 모델이 세 번 다시 시도해야 한다면 결과는 뒤집힙니다. 정확도와 속도도 마찬가지로 회사의 실제 업무로 재야 합니다.

우리 회사에 맞는 모델을 고르는 순서

모델을 갈아 끼울 수 있게 만드는 법

모델이 바뀔 때마다 시스템을 다시 만들지 않으려면 처음부터 몇 가지를 지켜야 합니다.

• 모델 호출을 한곳으로 모읍니다. 서비스 곳곳에서 특정 회사의 API를 직접 부르지 않고, 중간에 호출을 받아 주는 계층을 하나 둡니다. 모델을 바꿀 때 이 계층만 고치면 됩니다.
• 지시문과 평가 질문을 함께 관리합니다. 모델마다 잘 듣는 지시문이 조금씩 다릅니다. 지시문을 고치면 같은 평가 질문으로 다시 재서 점수를 남깁니다.
• 결과를 모델 이름과 함께 기록합니다. 어느 답이 어느 모델에서 나왔는지 남겨 두어야 문제가 생겼을 때 원인을 찾을 수 있습니다.
• 한 회사에만 기대지 않습니다. 한 곳에 장애가 나거나 가격이 바뀌어도 다른 모델로 넘어갈 수 있게 두 번째 후보를 늘 시험해 둡니다.

회사 상황별로 보면

대기업. 이미 특정 모델에 맞춰 만든 서비스가 여러 개라면, 이번 기회에 모델 호출 계층을 하나로 정리하는 편이 장기적으로 비용을 줄입니다.

중소기업. 비싼 모델부터 쓸 필요는 없습니다. 업무 대부분은 중간 가격대 모델로 충분한 경우가 많으니, 평가 질문으로 직접 확인한 뒤 정하시기 바랍니다. 예산을 어떻게 잡는지는 AI 도입 비용 글에서 따로 다뤘습니다.

공공기관과 금융회사. 외부 API를 쓰기 어려운 환경이라면 이번 발표는 '비교 기준'으로 활용하시면 됩니다. 사내에 설치할 모델을 고를 때도 같은 평가 질문과 같은 기준을 쓰면 됩니다.