Posted by 2024년 9월 12일, OpenAI는 새로운 고급 모델인 “o1″를 발표했다. 이 모델은 복잡한 작업을 처리하는 데 적합한 새로운 추론 모델로, GPT-4o에 비해 더욱 정교한 추론 능력을 갖추고 있으며, 대규모 컨텍스트 창(128K)과 2023년 10월 지식 기준을 가지고 있다. “o1” 업데이트는 많은 사용자에게 기대를 모으고 있으며, 특히 고급 AI 활용을 필요로 하는 개발자와 기업들에게 중요한 영향을 미칠 것으로 보인다.
새로운 가격 정책의 필요성
“o1″은 고급 추론 기능을 제공하면서도 성능에 따른 가격을 책정하는 OpenAI의 전략을 반영하고 있다. GPT-4o 및 GPT-4o mini와 비교했을 때, “o1-preview”는 더 복잡한 작업을 처리할 수 있고, 그만큼 높은 가격을 책정하고 있다. 기존에는 새로운 모델이 출시할 때 기존 모델의 사용 가격은 저렴해졌었지만, 이번에는 기존 모델의 가격은 동일한 상황이다. 이와 같은 가격 정책 변화는 사용자에게 더 많은 선택지를 제공한다고 하기에는 아쉬운 부분이다.
주요 변화 사항
API 가격 비교
“o1-preview”는 GPT-4o 대비 더 높은 API 사용 비용을 가지고 있다. 입력 토큰당 $15.00, 출력 토큰당 $60.00의 요금이 부과되며, 이는 고급 추론 기능을 제공하는 만큼 그에 상응하는 비용을 반영하고 있다. 특히 출력 토큰에 적용되는 토큰수는 응답에 표시되지 않는 내부 추론에 사용된 토큰까지 계산되어 요금이 부과 된다.
GPT Models
| 모델명 | 입력 토큰 가격 | 출력 토큰 가격 | 비고 |
|---|---|---|---|
| o1-preview | $15.00 /1M tokens | $60.00 /1M tokens | 고급 추론 모델 |
| o1-mini | $ 3.00 /1M tokens | $12.00 /1M tokens | 소형 모델 |
| gpt-4o gpt-4o-2024-05-13 | $5.00 /1M tokens $2.50 /1M tokens(Batch) | $15.00 /1M tokens $7.50 /1M tokens(Batch) | 멀티모달 모델 |
| gpt-4o-2024-08-06 | $2.50 /1M tokens $1.25 /1M tokens(Batch) | $10.00 /1M tokens $5.00 /1M tokens(Batch) | 멀티모달 모델 |
| GPT-4o mini | $0.15 /1M tokens $0.075 /1M tokens(Batch) | $0.60 /1M tokens $0.30 /1M tokens(Batch) | 소형 모델 |
Embedding Models
OpenAI의 임베딩 모델은 고급 검색, 군집화, 주제 모델링, 분류 기능을 제공하는 데 적합한 AI 도구이다. 텍스트 임베딩을 통해 데이터 분석 및 검색 기능을 강화할 수 있으며, 특히 대규모 데이터 세트에서의 패턴 인식 및 주제 분류에 유리하다.
| 모델명 | 일반 API 가격 | Batch API 가격 |
|---|---|---|
| text-embedding-3-small | $0.020 /1M tokens | $0.010 /1M tokens |
| text-embedding-3-large | $ 0.130 /1M tokens | $0.065 /1M tokens |
| ada v2 | $0.100 /1M tokens | $0.050 /1M tokens |
Fine-tuning Models
Fine-tuning 모델은 사용자 데이터를 활용해 OpenAI의 기본 모델을 맞춤형으로 조정할 수 있는 기능을 제공한다. 이를 통해 특정한 산업이나 비즈니스 요구에 맞춘 AI 모델을 구축할 수 있다.
| 모델명 | 일반 API 가격 | Batch API 가격 |
|---|---|---|
| gpt-4o-2024-08-06 | $3.750 / 1M input tokens $15.000 / 1M output tokens $25.000 / 1M training tokens | $1.875 / 1M input tokens $7.500 / 1M output tokens |
| gpt-4o-mini-2024-07-18 | $0.300 / 1M input tokens $1.200 / 1M output tokens $3.000 / 1M training tokens | $0.150 / 1M input tokens $0.600 / 1M output tokens |
| gpt-3.5-turbo | $3.000 / 1M input tokens $6.000 / 1M output tokens $8.000 / 1M training tokens | $1.500 / 1M input tokens $3.000 / 1M output tokens |
| davinci-002 | $12.000 / 1M input tokens $12.000 / 1M output tokens $6.000 / 1M training tokens | $6.000 / 1M input tokens $6.000 / 1M output tokens |
| babbage-002 | $1.600 / 1M input tokens $1.600 / 1M output tokens $0.400 / 1M training tokens | $0.800 / 1M input tokens $0.800 / 1M output tokens |
Assistants API
Assistants API는 개발자가 AI 비서를 구축할 수 있도록 돕는 도구이다. 해당 API는 사용자가 선택한 언어 모델에 맞춘 입력/출력 토큰 요금을 적용받으며, 다양한 도구를 추가적으로 사용하여 개발자의 편의성을 제공한다.
| 도구 | 가격 |
|---|---|
| Code Interpreter | $0.030 / session |
| File Search | $0.10 / GB of vector-storage per day (1 GB free) |
Image models
이미지 생성 도구인 DALL·E 는 애플리케이션 내에서 새로운 이미지를 생성하고 수정할 수 있는 기능을 제공한다. DALL·E 3는 가장 고품질의 이미지를 생성하며, 해상도와 품질에 따라 다양한 요금제가 적용된다.
| 모델명 | 화질 | 해상도 | 가격 |
|---|---|---|---|
| DALL·E 3 | Standard Standard | 1024×1024 1024×1792, 1792×1024 | $0.040 / image $0.080 / image |
| DALL·E 3 | HD HD | 1024×1024 1024×1792, 1792×1024 | $0.080 / image $0.120 / image |
| DALL·E 2 | 1024×1024 512×512 256×256 | $0.020 / image $0.018 / image $0.018 / image |
Audio models
음성 인식 및 텍스트 음성 변환을 제공하는 Whisper와 TTS 모델은 다국어 음성 데이터를 처리하거나 텍스트를 음성으로 변환하는 데 사용된다.
| 모델명 | 사용량 |
|---|---|
| Whisper | $0.006 / minute (rounded to the nearest second) |
| TTS | $15.000 / 1M characters |
| TTS HD | $30.000 / 1M characters |
“o1-mini”의 비용 효율성
“o1-mini”는 비용 효율성을 중시하는 소형 추론 모델로, 빠른 응답 시간과 저렴한 가격을 제공한다. 특히 코드 작성, 수학 문제 해결, 과학적 계산에 적합하며, 입력 토큰당 $3.00, 출력 토큰당 $12.00의 가격으로 GPT-4o보다 저렴한 가격으로 제공된다.
Batch API를 통한 추가 할인 제공
Batch API를 사용하면 API 요청을 일괄 처리하여 24시간 내에 응답을 받을 수 있으며, 이를 통해 50%의 추가 할인을 받을 수 있다. Batch API를 사용한 경우, “gpt-4o”의 입력 토큰 가격은 $2.5이며, 출력 토큰 가격은 $7.5로 절반으로 감소한다. “o1-preview”, “o1-mini” 모은 아직 Batch API를 지원하지 않는다.
또한, 임베딩 모델(Embedding models)과 파인튜닝 모델(Fine-tuning models)들은 기존과 동일한 요금 체계를 가지고 있지만 Batch API를 통하여 사용하게 되면 50% 요금 할인을 받을 수 있다.
무료 및 유료 플랜의 변화
| 플랜 | 가격 | 주요 기능 | 메시지 한도 및 추가 기능 |
|---|---|---|---|
| 프리 플랜 | 무료 | GPT-4o mini 및 제한된 GPT-4o 액세스 제공 | 기본 기능 제공, 멀티모달 기능 제한적 사용 |
| 플러스 플랜 | $20.0 / month | o1-preview, o1-mini, GPT-4, GPT-4o, 및 멀티모달 기능 제공 | 최대 5배 메시지 한도, DALL-E 이미지 생성 |
| 팀 플랜 | $30.0 / month | GPT-4o-mini 무제한 사용 GPT-4, GPT-4o 및 DALL·E, 웹 브라우징, 데이터 분석 등의 도구에 대한 메시지 제한 사용 | 팀 내 협업을 위한 고급 기능 및 할당량 증가 |
| 엔터프라이즈 플랜 | 맞춤형 가격 | GPT-4o 및 GPT-4 무제한 사용, 엔터프라이즈급 보안 및 관리 지원 | 맞춤형 솔루션 및 전담 계정 관리자 제공 |
기대 효과
이번 “o1” 업데이트는 복잡한 작업에 적합한 AI 모델을 찾는 사용자들에게 더 나은 선택지를 제공하며, 높은 AI 기술의 성능을 가진 모델과 레거시 모델 중에 필요에 따라 선택하여 사용할 수 있게 되었다. 사용자와 개발자 모두 고성능 AI를 활용할 수 있는 다양한 옵션을 제공받을 수 있으며, 특히 다량의 데이터를 처리할 때는 Batch API를 통해 비용을 절감할 수 있는 기회가 생기게 되었다.