OpenAI GPT 최신 소식 — Decisions API 정식 출시, 출력 요금 0원·질문 400개 (2026.10.24)

📌 한줄 요약: 2026년 10월 22일(현지시간), OpenAI가 Decisions API를 정식 출시(GA) 했습니다. GPT-6 Luna가 텍스트·이미지·JSON을 읽고 참일 확률·선택지·점수처럼 타입이 정해진 답만 돌려주는 전용 엔드포인트(POST /v1/decisions)입니다. 가격은 입력 100만 토큰당 0.10달러, 캐시 입력 0.01달러, 그리고 출력 토큰 요금은 0원입니다. 베타 대비 프롬프트 캐싱, JSON 입력, 이미지 URL, 요청당 질문 400개, GPT-Live 연동이 더해졌습니다.

문의 메일을 부서별로 나누고, 리뷰가 불량인지 판정하고, 계약서 조항이 기준에 맞는지 확인하는 일. 화려한 생성형 AI 데모보다 훨씬 자주 반복되는 작업인데, 정작 이런 일에 큰 모델을 통째로 부르면 느리고, 비싸고, 답이 매번 조금씩 달라집니다. 자동화 파이프라인을 운영하다 보면 결국 병목은 “판단” 한 줄에서 생기기 마련입니다.

그 지점을 겨냥한 API가 공개 베타를 끝내고 정식 제품이 됐습니다. 10월 초 베타 소식에서 “몇 주 안에 GA, 요금 정책이 관전 포인트”라고 짚었는데, 그 답이 이번에 나온 셈입니다. 이번 글은 베타와 무엇이 달라졌는지, 그리고 실무에서 비용이 실제로 얼마나 달라지는지 중심으로 정리했습니다.

OpenAI 공식 개발자 문서의 Decisions API 가이드 화면 (출처: OpenAI 공식 개발자 문서 developers.openai.com, 2026년 10월 24일 캡처)

이슈 요약 — 무엇이 확정됐나

무엇을: Decisions API 정식 출시(GA). 공개 베타(10월 6일)에서 2주 남짓 만입니다.
엔진: 여전히 gpt-6-luna 단일 모델입니다. 대화문을 생성하지 않고, 질문에 대한 정형화된 판단만 반환합니다.
엔드포인트: POST /v1/decisions.
속도: OpenAI 설명 기준 Responses API로 같은 모델을 부를 때보다 약 10배 빠릅니다.
가격(정식): 입력 100만 토큰당 0.10달러, 캐시 입력 0.01달러, 출력 토큰 과금 없음. 캐시 쓰기는 30분 0.125달러, 12시간 0.25달러입니다(표준 gpt-6-luna 캐시 요율과 동일).
확장: 요청당 질문 최대 400개(베타 200개), JSON 입력, 공개 이미지 URL, 대화 이력 평가, 프롬프트 캐싱, GPT-Live 연동, Private Link, 조직 사용량 API.
규제 대응: ZDR(Zero Data Retention), HIPAA 대상 고객 지원, 미국·유럽(EEA+스위스) 리전 처리 가능.

베타 때와 비교하면 “기능이 늘었다”보다 “프로덕션에 넣을 수 있는 조건이 갖춰졌다” 는 쪽이 정확한 변화입니다. 데이터 처리 옵션과 사용량 집계, 사설 연결이 한꺼번에 붙었기 때문입니다.

OpenAI Decisions API 공식 문서 대표 이미지 (출처: OpenAI 공식 개발자 문서 developers.openai.com, 2026년 10월)

상세 분석 — 정식판에서 달라진 9가지

1) 프롬프트 캐싱이 기본으로 붙었다

가장 실무적인 변화입니다. 같은 공유 입력(증거 자료·이미지·지침) 을 여러 요청에서 재사용하면 캐시 읽기 단가(0.01달러/100만 토큰) 가 적용됩니다.

기본값으로 input 끝에 암묵적 캐시 브레이크포인트가 잡힙니다. 요청 본문을 고치지 않아도 캐시 혜택을 받습니다.
재사용되는 접두 구간은 최소 1,024토큰이어야 합니다. 질문(questions) 쪽 내용은 이 임계값에 포함되지 않습니다.
prompt_cache_key로 캐시 재사용 범위를 호출자 단위로 나눌 수 있고, prompt_cache_breakpoint로 경계를 직접 지정하는 명시적 모드도 있습니다.
사용량은 usage.input_tokens_details.cached_tokens(읽기)와 cache_write_tokens(쓰기)로 확인합니다.

문서 하나를 고정해 두고 질문만 바꿔 던지는 구조라면, 입력 단가가 사실상 10분의 1로 떨어지는 셈입니다.

2) 요청당 질문 400개 — “한 번에 400개 판단”

베타의 200개에서 두 배로 늘었습니다. 핵심은 숫자가 아니라 구조입니다. 같은 증거를 공유하는 독립적인 질문을 한 요청에 몰아넣으면 입력 토큰을 한 번만 지불합니다.

예를 들어 상품 사진 한 장에 대해 “파손 흔적이 있는가”, “카테고리는 무엇인가”, “재포장 정황이 보이는가”를 각각 따로 호출하면 같은 이미지를 세 번 과금합니다. 400개까지 한 번에 묶으면 이미지 비용은 1회입니다.

단, 앞선 답에 의존하는 판단은 반드시 별도 요청으로 나눠야 합니다. “파손이 있으면 수리 카테고리를 고른다” 같은 조건부 흐름은 2단계 호출로 설계해야 합니다.

3) JSON 입력과 이미지 URL, 그리고 대화 이력

input_json: 앱이 가진 구조화 데이터를 문자열로 직렬화하지 않고 그대로 넘길 수 있습니다.
공개 이미지 URL: base64 인라인 없이 http/https 주소로 이미지를 전달할 수 있습니다.
질문별 이미지: 질문 지침 안에 이미지를 넣어 공유 기준 이미지와 비교하는 형태가 가능해졌습니다.
대화 이력 평가: 메시지와 함수 호출, 도구 출력까지 함께 넣고 “이 대화에서 사용자가 환불을 요구했는가” 같은 판단을 뽑을 수 있습니다.

에이전트 로그를 그대로 밀어 넣고 품질 플래그를 뽑는 용도로 쓰기 좋아진 부분입니다.

4) GPT-Live 연동과 Private Link

음성 쪽 변화도 눈에 띕니다. GPT-Live가 Decisions를 직접 호출하거나, 입력·출력 전사(transcript)가 도착하는 시점에 판단을 트리거할 수 있습니다. 통화 내용을 실시간으로 분류해 다음 동작을 고르는 상담 봇 같은 시나리오가 훨씬 단순해집니다.

기업 환경을 위한 Private Link와 조직 사용량 조회 API(GET /v1/organization/usage/decisions)도 함께 열렸습니다. 사용량 API는 요청 수 기준으로 집계되며, 한 요청에 질문이 여러 개여도 1건으로 셉니다. 비용 배분을 프로젝트·API 키 단위로 나눠야 하는 조직에는 반가운 부분입니다.

실제 사용감 — 비용이 얼마나 달라지나

말로만 “싸다”고 하면 와닿지 않으니, 흔한 자동화 시나리오 두 개로 계산해 봤습니다. 모두 gpt-6-luna 표준 요율 기준입니다.

사례 A: 문의 10만 건 자동 분류

가정: 건당 증거 텍스트 1,200토큰, 답변(생성) 250토큰.

방식	계산	비용
Responses API	입력 1억 2,000만 토큰 × $0.10 + 출력 2,500만 토큰 × $0.50	$24.50
Decisions API	입력 1억 2,000만 토큰 × $0.10 (출력 과금 없음)	$12.00
Decisions + 캐시 읽기	위 입력을 캐시 히트로 처리 × $0.01	$1.20

출력 요금이 사라지는 것만으로 절반, 공유 지침을 캐시로 재사용하면 20분의 1 수준까지 내려갑니다. 여기에 응답 지연이 줄어드는 효과가 더해집니다.

사례 B: 계약서 1건에 체크리스트 400개

가정: 계약서 본문 3,000토큰, 체크리스트 400항목.

방식	계산	비용
항목마다 개별 호출	400 × 3,000토큰 = 120만 토큰 × $0.10	$0.12
한 요청에 400개 질문	3,000토큰 × $0.10	$0.0003

같은 판단을 하면서 비용이 400분의 1이 됩니다. “문서 하나에 체크리스트 여러 개” 형태의 검수 업무는 이 구조를 안 쓰면 사실상 같은 문서를 400번 다시 읽히는 셈입니다.

그래서 어디에 쓰면 좋은가

분류·라우팅: 문의 유형, 부서 배정, 우선순위 태깅
검수·판정: 이미지 불량 여부, 정책 위반, 재포장 정황
점수화: 루브릭 기반 품질 평가, 리스크 등급
실시간 판단: 음성 상담 중 다음 동작 선택, 툴 호출 분기

반대로 추론이 무거운 작업(복잡한 코드 수정, 다단계 계획 수립, 긴 설명 생성)에는 맞지 않습니다. 이 API는 답의 형태가 미리 정해진 질문에만 강합니다.

장점과 단점 — 솔직히 따져볼 부분

장점

출력 토큰 0원: 판단만 필요할 때 비용 구조가 근본적으로 달라집니다.
정형 출력: 확률·선택지·점수로 오니 파싱 코드가 줄고, 조용한 오답이 섞일 여지가 작아집니다.
한 요청 다문항: 공유 증거를 한 번만 과금하는 구조가 강력합니다.
프로덕션 요건: ZDR, HIPAA, 리전 처리, 사설 연결, 사용량 집계까지 갖춰졌습니다.
거부(refusal) 타입: 애매하면 억지로 답을 만들지 않고 거부를 명시적으로 돌려줍니다.

단점·주의점

모델이 하나뿐: gpt-6-luna 외 선택지가 없습니다. 성능이 부족하면 다른 모델로 대체할 수 없습니다.
입력이 곧 비용: 증거를 길게 넣는 설계는 그대로 과금됩니다. 롱컨텍스트 배수와 리전 처리 프리미엄도 붙습니다.
캐시는 공짜가 아님: 12시간 캐시 쓰기는 100만 토큰당 0.25달러로, 30분(0.125달러)의 두 배입니다. 재사용이 드물면 오히려 손해입니다.
임계값은 직접 정해야 함: 확률·점수를 그대로 업무에 물리면 안 되고, 라벨링된 실제 데이터로 컷오프를 튜닝해야 합니다. 오탐과 미탐의 비용이 다르기 때문입니다.
캐시 최소 1,024토큰: 짧은 프롬프트만 쓰는 워크로드는 캐시 혜택이 없습니다.

영향 — 사용자와 개발자에게

개발자·운영팀에게 이번 GA의 의미는 “생성과 판단을 분리하는 설계가 공식적으로 허용됐다“는 점입니다. 그동안은 분류 하나에도 채팅 모델을 불러 출력을 파싱하는 우회로를 써야 했습니다. 이제 판단 전용 경로가 있고, 그 경로는 출력 요금이 0원입니다. 파이프라인 단가를 다시 계산해 볼 명분이 생겼습니다.

일반 사용자 입장에서는 변화가 겉으로 드러나지 않습니다. 다만 문의 답변이 빨라지고, 분류가 덜 흔들리고, 음성 상담 봇이 말끝에 반응하는 형태로 체감될 수 있습니다.

기획자라면 체크할 지점이 하나 늘었습니다. “이 기능이 정말 생성이 필요한가, 판단만 하면 되는가”를 먼저 묻는 습관입니다. 판단만 필요하면 훨씬 싼 경로가 이미 있다는 뜻이니까요.

전망

모델 확대 여부 — 지금은 Luna 단독입니다. 더 작고 싼 모델이 붙으면 대량 배치 비용이 한 번 더 내려갑니다. 반대로 상위 모델이 열리면 판단 난도가 높은 업무까지 흡수합니다.
요금 정책의 지속성 — “출력 0원”은 경쟁사 대비 강한 무기입니다. 경쟁이 붙으면 유지될 가능성이 크지만, 리전 프리미엄이나 롱컨텍스트 배수 같은 예외 조항은 계속 늘어날 수 있습니다.
경쟁 구도의 이동 — Anthropic과 Google도 분류·라우팅 계열 도구를 강화하고 있습니다. 앞으로의 비교 기준은 “누가 더 똑똑한가”보다 “판단 한 건에 얼마를 부르는가” 가 될 가능성이 큽니다.
에이전트 표준과의 결합 — Agent Skills, MCP 같은 표준이 자리를 잡으면, 판단 API는 그 안의 기본 부품으로 들어갈 것입니다.

마무리 — 이럴 때 특히 쓸모 있습니다

정리하면, Decisions API는 “글을 쓰는 AI”가 아니라 “판단하는 AI” 를 위한 도구입니다.

같은 기준 문서로 수백 개 항목을 동시에 검수하는 업무
하루 수만~수십만 건의 분류·라우팅을 돌리는 파이프라인
음성·이미지 입력에 실시간으로 반응해야 하는 상담 자동화
개인정보 규제 때문에 ZDR·HIPAA·리전 처리가 필요한 조직

도입 전에는 세 가지만 확인하면 됩니다. 첫째, 판단만 필요한 업무인지(생성이 필요하면 오히려 손해), 둘째, 공유 증거를 재사용할 수 있는 구조인지(캐시와 다문항의 효과가 여기서 갈립니다), 셋째, 실제 데이터로 컷오프를 잡았는지. 이 세 가지가 맞으면, 가성비 좋은 판단 경로를 확보하는 셈입니다.

참고: 가격·기능은 2026년 10월 24일 기준 OpenAI 공식 개발자 문서와 개발자 커뮤니티 공지를 바탕으로 정리했습니다. 요율과 지원 범위는 이후 변경될 수 있으니 도입 전 공식 가격표를 다시 확인하시길 권합니다.