OpenAI Decision API와 Jev, 지금 붙여볼 수 있는 건 Jev 하나다
문장을 안 쓰고 선택지 중 하나만 골라주는 AI가 둘이 됐다. 공개된 걸 나란히 놓아보니 지금 누구나 부를 수 있는 건 Jev 하나더라.
AI한테 시키는 일 중에는 고르기가 은근 많다. "이거 스팸이야 아니야"를 묻고 "이 문의는 어느 담당한테 보내"를 정하고 "이건 사람이 다시 봐야 해?"를 가리는 일이 다 고르기다. 근데 우린 그걸 굳이 긴 답변으로 받아서 코드로 필요한 값만 다시 골라내고 있었다. 이 빈틈을 노리고 TypeSafe라는 회사의 Jev가 먼저 나왔고 일주일 남짓 뒤에 OpenAI가 Decision API를 내놨다. GeekNews는 아예 "Jev와 경쟁할" 물건이라고 제목을 달았더라 (news.hada.io). 지금 같은 과제에 실제로 붙여볼 수 있는 건 Jev 쪽뿐이다.
한눈에 보기
- Jev(TypeSafe): 미리 정한 질문에 정해둔 선택지 하나를 고르고 확률을 붙여 돌려준다. 공개 닷새 만에 대기 명단이 없어져서 지금은 누구나 쓸 수 있다 (yozm.wishket.com). 가격은 입력 100만 토큰(AI가 글을 잘라 세는 단위)당 0.042달러이고 출력은 무료다 (yozm.wishket.com).
- OpenAI Decision API: 소형 모델 Luna 위에 얹은 API다. 질문과 답변 후보와 맥락을 넣으면 후보마다 신뢰도 점수를 돌려준다. 9월 29일 기준으로 제한적 프리뷰라 아무나 못 쓴다. 호출당 가격은 공개되지 않았다 (news.hada.io).
📑 목차
- 1. Jev, 0.4초에 선택지와 확률만 돌려준다
- 2. OpenAI Decision API, 후보마다 신뢰도 점수를 0.15초에 준다
- 3. Decision API는 가격·한도가 비공개라, 지금 붙여서 잴 수 있는 건 Jev뿐이다
- 4. Jev를 한국에서 붙이면 걸리는 것: 미국 리전·한국어·3만 2천 토큰·질문 문구
- 5. 내 판정기에 대보니 점수가 실제 정답률과 맞느냐가 걸린다
- 6. 정리
1. Jev, 0.4초에 선택지와 확률만 돌려준다
Jev는 문장을 한 줄도 안 쓰고 정해둔 선택지와 확률만 돌려준다. 왜 그렇게 골랐는지 물어볼 수도 없다. 질문 유형도 딱 셋이다. Choice는 여럿 중 하나를 고른다. Score는 척도 위에 값을 매긴다. Noul은 예/아니오를 묻는데, 참·거짓 대신 0에서 1 사이 확률 하나를 돌려준다 (yozm.wishket.com).
빠른 이유도 거기서 나온다. 보통 AI는 글자 하나를 고르고 그걸 보고 다음 글자를 고르는 식으로 답을 쌓는다. 답이 길수록 느려지는 구조다. Jev는 글자를 쌓지 않고 출력을 한 번에 병렬로 계산해서 출력 요금을 받지 않는다고 한다 (yozm.wishket.com). 회사가 낸 평가표에서는 Jev와 앤트로픽 소네트 5의 평균 정확도가 67.8%로 같았다. 판단 한 건에 Jev는 0.4초가 걸렸고 소네트 5는 78.1초가 걸렸다. 건당 비용은 0.0004달러 대 0.1174달러로 나왔다 (yozm.wishket.com). 물론 이건 회사 자체 평가다. 같은 표에는 Jev보다 정확도가 높은 모델이 셋 있다. 회사도 이 평가를 대체로 미국 서부에 있는 자기들 노트북에서 돌렸다고 적어뒀다 (yozm.wishket.com).
흔히 "형식이 안 깨진다"를 장점으로 꼽는다. 그런데 일본 supa Lab이 4개 과제 208건으로 Jev와 경량 AI 모델들을 같이 돌려보니 스키마 위반(정해둔 답 형식에서 벗어난 답)은 비교한 모델 모두 0건이었다고 한다 (yozm.wishket.com). 보통 AI에도 답 형식을 강제하면 그 정도는 지켜진다는 거다. 그럼 Jev한테만 남는 차이는 하나다. 보정(calibration), 즉 모델이 "0.8"이라고 말한 판단들을 모아보면 실제로 열에 여덟쯤 맞는 성질이다. supa Lab이 같은 실측의 라우팅 과제(들어온 요청을 어디로 보낼지 고르는 일)에서 Jev가 확률 0.9 이상을 붙인 답만 자동 처리로 남기자 그 답은 정확도가 100%였고 전체 건수의 92.5%가 자동 처리를 통과했다. 반면 같이 비교한 Gemini 3.5 Flash-Lite와 Qwen3.7 Flash는 틀린 답에도 0.95에서 1.0의 확률을 붙였다고 하더라 (yozm.wishket.com).
2. OpenAI Decision API, 후보마다 신뢰도 점수를 0.15초에 준다
OpenAI가 개발자 행사 DevDay에서 발표한 Decision API는 질문과 답변 후보와 맥락을 넣으면 정해둔 후보마다 신뢰도 점수를 준다. OpenAI는 콘텐츠를 분류하고 요청을 라우팅하고 AI 에이전트(여러 단계 작업을 스스로 이어 가는 AI)가 다음에 할 일을 고르는 데 쓰라고 소개했다. OpenAI는 Decision API가 0.15초 만에 응답해서 바탕이 된 OpenAI 소형 모델 Luna를 보통 방식으로 부를 때(1.6초)보다 열 배쯤 빠르다고 설명했다 (news.hada.io). 원래 OpenAI에도 판별용 Moderation API가 있었다. Decision API는 그와 달리 개발자가 범주를 직접 정할 수 있다. 작은 분류 모델은 범주가 바뀌면 다시 학습시켜야 하지만 이 API는 프롬프트(모델에 넣는 지시문)로 새 후보를 지정하면 된다는 게 차별점으로 소개됐다 (news.hada.io).
근데 소개 글에는 그 신뢰도 점수가 보정된 값인지에 대한 말이 없다. Jev 쪽 논쟁이 결국 거기로 모였는데 말이다.
▲ TypeSafe 자체 평가의 Jev와 소네트 5, OpenAI 발표의 Decision API와 Luna 일반 호출의 응답 시간·비용을 출처별로 나눠 비교하고 측정 조건이 다르다고 표시한 카드 (자체 제작 이미지)
3. Decision API는 가격·한도가 비공개라, 지금 붙여서 잴 수 있는 건 Jev뿐이다
OpenAI Decision API는 가격과 후보 수 한도를 공개하지 않아서 같은 과제로 Jev와 견줄 수가 없다. OpenAI는 제한적 프리뷰라 며칠 안에 범위를 넓힌다고만 했고 호출당 가격을 밝히지 않았다. 한 번에 넣을 수 있는 답변 후보 수도 알리지 않았고 자기 데이터로 모델을 조정할 수 있는지도 공개하지 않았다 (news.hada.io). 가격을 모르니 비용 비교가 안 된다. 후보 수 한도를 모르니 내 과제가 들어가는지도 알 수 없다.
숫자를 나란히 놓고 싶은 마음도 접어야 한다. OpenAI의 0.15초는 Luna의 일반 호출과 비교한 값이다. 노르웨이 한 개발자가 의견서 24건으로 Jev를 재니 응답 시간 중앙값이 0.32초로 나왔다. 그 개발자는 DeepSeek V4.1 Flash(답하기 전에 생각 단계를 거치는 추론 모드를 끄면 2.7초, 켜면 26초)와 비교했다 (yozm.wishket.com). 그 개발자도 이건 첫인상이지 조건을 통제한 성능 시험(벤치마크)이 아니라고 못 박았다.
4. Jev를 한국에서 붙이면 걸리는 것: 미국 리전·한국어·3만 2천 토큰·질문 문구
Jev는 지금 붙여볼 수 있는데, API 서버가 미국 리전(서버가 있는 지역)에만 있다는 보도가 있다. 한국에서 부르면 네트워크 왕복 시간이 더해진다. 국내 보관 요건이 있는 팀이면 지금 구성으로는 맞추기 어려울 수도 있다 (yozm.wishket.com). 회사 문서는 영어가 주된 학습 언어라서 한중일 언어를 처리는 하지만 영어만큼 잘하진 않는다고 적었다. 그런데 일본어 208건 실측에서는 영어와 차이가 없었다고 하니 회사 말과 실측이 엇갈린다 (yozm.wishket.com). 결국 한국어는 내 글로 돌려봐야 안다.
Choice 질문 하나에 선택지는 255개까지 넣을 수 있다. 판단 대상 본문은 한 번에 3만 2천 토큰까지라 긴 문서를 통째로 넣는 설계는 여기서 막힌다. Jev는 텍스트만 입력으로 받고 글을 만들어내지도 못한다. 그래서 Jev를 브라우저 에이전트에 붙인 한 사용자는 입력 칸에 넣을 텍스트를 다른 작은 모델한테 따로 쓰게 했다더라 (yozm.wishket.com).
가격과 한도는 고정값으로 보면 안 된다. 회사는 지금 가격이 보조금이 아니라는 걸 증명할 수 없다고 직접 적었다. 요청 한도도 수요가 몰리면 예고 없이 바뀔 수 있다고 했다 (yozm.wishket.com).
질문 문구가 제일 예민하다. 노르웨이 개발자가 질문을 더 정교하게 다듬었더니 보정 오차가 두 배 넘게 나빠졌다고 한다 (yozm.wishket.com). 거기에 임계값(여기부터는 자동 처리, 여기 아래는 사람한테 넘긴다는 기준선)을 누가 정하냐는 숙제도 생긴다. 회사 문서는 보수적인 값으로 시작해서 자기 데이터로 조정하라고만 한다.
그래서 지금은 비교보다 준비를 할 때다. 요즘IT 글이 권한 순서가 그대로 쓸 만하다. 내 대표 과제로 작은 평가 세트를 만들고 정확도를 맞춰놓은 상태에서 비용과 지연을 비교하고 내 리전에서 한국어로 재는 것이다 (yozm.wishket.com). Jev 공개 이틀 뒤에 Kev라는 재현 모델이 나왔다. Kev는 Jev와 API가 같아서 Jev 공식 파이썬 SDK(API를 부르는 공식 코드 묶음)로 로컬 서버를 그대로 부를 수 있다고 한다 (yozm.wishket.com). 그러니 Jev를 코드 여기저기서 직접 부르기보다 판단 호출을 함수 하나로 모아두는 편이 낫겠다. 나중에 Decision API를 누구나 쓸 수 있게 되어도 그 함수 안에서 부르는 서비스만 바꾸면 된다.
5. 내 판정기에 대보니 점수가 실제 정답률과 맞느냐가 걸린다
나는 이미 고르기 일을 기계한테 맡기고 있다. SNS에서 들어오는 투자 글에 딱지를 붙이는 판정기가 그거다. 거기서 기계가 확실히 판정할 수 있는 항목은 글에 붙은 링크가 실제로 있는지 하나뿐이었다. 그래서 나는 본문 과장을 판정하지 않고 점수까지만 매기게 했다(SNS 투자 정보 판정기 글). 만들다가 모델이 생각을 길게 하는 바람에 답이 잘린 적도 있다. 로컬 모델을 쟀을 때도 진짜 비용은 속도보다 형식이 깨지는 데서 나왔다(로컬 AI 모델 실측 글).
그 경험에 대보면 Jev류는 "생각이 길어서 답이 잘리는" 문제를 구조로 없애준다. 아예 글을 안 쓰니까. 형식 깨짐은 supa Lab 실측대로 형식만 강제해도 막히니 갈아탈 이유까진 아닌 것 같다. 점수 문제는 남는다. 점수가 높으면 통과시키고 애매하면 딱지를 붙이고 낮으면 사람한테 넘기는 구조는 Jev 문서가 권하는 3단 처리와 생김새가 같다. 근데 이 구조는 점수가 실제 정답률과 맞는다는 전제 하나에 통째로 기대고 있다. 틀린 답에도 확률 0.95를 붙이는 모델이면 임계값을 어디에 두어도 의미가 없다.
그래서 OpenAI Decision API를 보는 내 기준은 속도가 아니다. 0.15초는 이미 충분히 빠르다. 그 신뢰도 점수가 "0.8이면 열에 여덟"을 지키는지가 공개되기 전까지, 내 눈에 이건 Jev의 경쟁자라기보다 빨라진 Luna에 가깝다. 반대로 OpenAI가 보정 데이터를 내놓고 한국 근처 리전까지 열어주면 얘기가 달라진다. 미국 리전뿐인 Jev보다 한국 사용자한텐 그쪽이 더 현실적인 선택이 될 수도 있겠다.
6. 정리
두 물건 다 AI한테 긴 답을 받아 코드로 필요한 값만 골라내던 습관을 겨냥한다. 지금은 Jev 하나만 손에 잡힌다. OpenAI 쪽은 가격도 한도도 아직 공개되지 않았다.
3줄 요약
- Jev와 OpenAI Decision API는 둘 다 문장 대신 선택지와 점수만 돌려줘서 빠르다. 지금은 Jev만 누구나 쓸 수 있다.
- 형식이 안 깨진다는 건 차별점이 아니었다. 둘은 점수가 실제 정답률과 맞느냐(보정)에서 갈리는데 Decision API 소개에는 그 얘기가 없다.
- 한국에서 Jev를 쓰려면 API가 미국 리전에만 있는 점과 한국어 성능이 불확실한 점을 따져야 한다. 질문 문구에 따라 보정이 흔들리는 것도 문제다. 판단 호출은 함수 하나로 모아두는 게 낫다.
어느 쪽을 고르든 첫 숫자는 같다. 지금 큰 모델한테 사실상 예/아니오만 묻고 있는 호출이 몇 개인지다. 그게 0에 가까우면 둘 다 아직 내 일이 아니다.
이 글은 정보 제공을 목적으로 하며, 작성 시점(2026년 10월 1일) 기준 공개 자료를 정리했다. 가격·요청 한도·제공 범위는 바뀔 수 있고, 회사 자체 평가와 개별 사용자 실측은 공식 벤치마크가 아니다. 특정 제품 사용을 권유하지 않는다.
참고한 공식 자료
- GeekNews, OpenAI, Jev와 경쟁할 Luna 기반 Decision API 공개: news.hada.io/topic?id=34528
- 요즘IT, 200배 빠르다는 Jev AI, 진짜 차별점은 무엇일까: yozm.wishket.com/magazine/detail/3962
댓글
댓글 쓰기