인공지능 기술은 날이 갈수록 발전하고 있습니다. 우리는 이미 다양한 AI 챗봇과 언어모델을 활용해왔지만, 이번에 소개할 AI, Jet(제트)는 기존의 어떤 모델과도 차원이 다릅니다. Jet는 GPT와 비교해 약 200배 빠르며 400배 저렴하다는 장점이 있습니다. 이 모델은 San Francisco에 위치한 Type-Safe AI라는 연구소에서 개발되었으며, ChatGPT 공동 개발자가 참여해 큰 화제를 낳고 있습니다.
이번 글에서는 Jet가 기존 AI와 어떤 핵심적인 차별점을 가지고 있는지, 실제 사용 경험은 어땠는지, Jet가 제공하는 혁신적인 기능과 그 한계까지 구체적으로 알아보겠습니다.
Jet의 탄생과 기존 AI의 한계
우리가 지금까지 접했던 대부분의 AI 언어모델은 기본적으로 사람과의 대화를 염두에 두고 만들어졌습니다. 즉, "오늘 무엇을 도와드릴까요?"라는 식의 응대가 자연스럽고, 인간이 이해할 수 있는 답변을 생성하도록 설계되어 있죠. 하지만 이로 인해 정직함보다는 사람을 만족시키는 쪽에 초점이 맞춰져 있습니다. 그래서 종종 자신 있게 틀린 답변을 하기도 하고, 지적을 받으면 사과를 합니다.
이러한 한계를 인식한 Type-Safe AI는 완전히 다른 접근을 택했습니다. Jet는 애초에 사람과 대화를 나누기 위한 챗봇이 아닙니다. 이 모델은 코드 내부에서 활용되도록 만들어졌고, 사람이 답변을 직접 읽는 것이 목적이 아닙니다. 대신, 정확한 선택지 중 하나를 빠르고 확실하게 골라야 하는 상황에 최적화돼 있습니다.
System One 모델의 특징
Jet는 일명 'System One 모델'입니다. 여기서 System One이란, 『생각에 관한 생각(Thinking, Fast and Slow)』이라는 책에서 따온 개념으로, 우리의 뇌가 빠르고 자동적으로 내리는 즉각적 판단을 의미합니다. 반면 기존의 LLM(대형 언어 모델)은 느리고 신중한 논리에 가깝습니다.
Jet는 느리게 고민하지 않습니다. 예/아니오, A 또는 B와 같은 명확한 선택을 신속하게 내려줍니다. 가능하거나 허용되는 답변 범위가 정해져 있기 때문에, 심지어 '수다스럽게' 답변하는 것이 구조적으로 불가능합니다.
Jet와 GPT의 실질적 차이: 출력과 활용법
GPT 계열의 언어모델에게 단답형 답변을 요구하려면 보통 두 가지 방식을 씁니다. 하나는 "A, B, C 중 하나로만 답변하세요."와 같은 프롬프트를 써서 유도하는 것이고, 다른 하나는 JSON 형식의 구조화된 출력 양식을 강제하는 방식입니다. 하지만 언제든 모델이 말을 덧붙이거나, 출력이 깨질 수 있다는 문제가 발생합니다.
반면, Jet는 질문과 선택지, 각 선택지의 간단한 설명만 주면 바로 정해진 형식으로 답이 나옵니다. 예를 들어 리뷰의 감성이 긍정/중립/부정 중 무엇인지 묻는다면, Jet는 자신의 구조에 따라 선택과 함께 확신(confidence) 점수까지 반환합니다. 별도의 파싱이 필요 없어 소프트웨어에서 바로 활용할 수 있다는 점도 인상적입니다.
Jet의 응답 방식은 크게 세 가지로 나뉩니다.
1. Choice(선택): 여러 옵션 중 하나를 답변.
2. Score(점수): 0~10 등 특정 스케일에서 수치형 답변.
3. Null(확률): 예/아니오 질문에 대한 가능성(확률) 제공.
여기서 끝이 아닙니다. Jet는 한 번에 여러 질문을 병렬로 날릴 수 있습니다. 예를 들어 한 리뷰에 대해 감정, 열정, 배송 지연 여부를 각각 따로 동시에 요청할 수 있다는 것이죠. 각 질문은 서로 영향을 주지 않고 독립적으로 판단합니다.
Jet 활용 사례와 비용, 속도
Jet의 속도는 단순히 빠르다는 수준을 넘어섭니다. 예를 들어, GPT-6 Luna 모델은 백만 토큰 입력 시 10센트, 출력 시 50센트가 듭니다. Jet는 동일 입력량에 4센트만 받으며, 출력은 아예 무료입니다. 수많은 티켓, 리뷰, 메시지를 실시간으로 처리해야 하는 실무 환경에서 Jet의 효율성은 빛을 발합니다.
실제 사용 사례를 보면 Jet의 다양한 잠재력을 엿볼 수 있습니다:
- 500개의 이메일을 단 몇 초만에 3.5센트로 분류
- 724개의 경쟁업체 광고를 40초 만에 훅, 제안, 콜투액션 추출
- 실시간으로 통화를 분석해 '성사 확률'을 바로 보여주는 세일즈 코파일럿
- 단 8달도 되지 않는 비용으로 마인크래프트 엔더 드래곤 격파(게임 플레이에 활용)
- 스팸 분류, 요청 라우팅, 비즈니스 의사결정 자동화 등
속도와 비용만큼이나 Jet의 단점도 명확합니다. 수치 연산, 날짜 비교, 순서 파악 등에는 약점을 보입니다. 대화를 주고받는 챗봇 기능 역시 거의 없으며, 이는 Jet의 설계 방향과 맞닿아 있습니다.
Jet의 미래와 실제 적용 가능성
OpenAI 역시 Jet와 비슷한 개념의 Decisions API를 최근 공개했습니다. 이 API 역시 정해진 리스트에서 하나의 옵션을 선택하고, 확신 점수까지 반환합니다. 하지만 내부적으로는 여전히 '챗' 모델을 억지로 제한하여 사용하는 방식입니다. Jet는 근본부터 챗봇이 아니었던 만큼, 훨씬 효율적이고 신뢰도 높은 결과를 보여줍니다.
또 Jet는 개발자 친화적인 SDK와 문서를 제공합니다. Python으로 Jet SDK를 활용해 첫 요청부터, 에러 핸들링, 실제 한계 파악까지 작은 예제로 쉽게 따라 해볼 수 있어 실제 업무나 프로젝트에 바로 적용하기 용이합니다.
핵심 요약
Jet는 답변의 '진실성'을 챗봇보다 더 중시하며, 정해진 구조와 빠른 속도로 선택지 기반 답변을 제공합니다. 기존의 언어 AI모델들이 대화에 익숙하다면, Jet는 소프트웨어와 실시간 의사결정 업무에 최적화된 '시스템 1' AI로 볼 수 있습니다. 비용·속도 모두 압도적이며, 파싱이나 추가 가공 없이 곧바로 개발에 활용할 수 있다는 점에서 차별화됩니다.
마무리 및 참고
AI 기술의 패러다임이 바뀌고 있습니다. Jet는 대화형 AI의 한계를 뛰어넘어, 프로그램 내부에서 '빠른 결합, 빠른 결정'이라는 새로운 가능성을 열었습니다. 다양한 실무 사례를 통해 이미 그 효용이 입증되고 있습니다. 앞으로 얼마나 더 Jet와 같은 시스템이 다양한 분야에 쓰일지 기대를 모으고 있습니다.