KT 토큰팩토리 10월 30일 출시, 도입 검토 전에 확인할 것

KT는 2026년 10월 27일 보도자료 첫머리에 임직원 500명 규모의 글로벌 R&D 기업을 예로 들었습니다. 회사가 제공하는 AI 모델 하나로는 여러 업무를 감당하기 어려워 직원과 부서가 업무 특성과 선호에 따라 여러 글로벌 AI 모델을 따로 구독하는 일이 늘었고, 회사로서는 어떤 모델이 얼마나 쓰이는지 파악하고 모델별 토큰 사용량과 비용을 한데 모아 관리해야 한다는 내용입니다. 팀마다 다른 AI 서비스를 결제하고 있는 회사라면 익숙한 상황입니다.

KT는 같은 날 서울 광화문 West 빌딩에서 AI 모델 선택, 비용 관리, AI 신뢰·안전 기능을 하나로 묶은 AI 플랫폼 'KT 토큰팩토리(KT Token Factory)'를 공개했습니다. 보도자료에 따르면 출시일은 10월 30일이고, 출시 초기에는 여러 AI 모델을 쓰면서 비용을 효율적으로 관리하려는 기업 고객에게 먼저 제공합니다. 이 글은 KT 보도자료 2건과 KT Enterprise 제품 페이지를 읽고 정리했습니다. 출시 전이라 필자는 서비스에 가입하거나 API를 호출해 보지 않았습니다.

1. 하나의 API로 여러 모델을 부르고 비용은 한곳에서 봅니다

제품 페이지는 토큰팩토리를 "다양한 생성형 AI모델을 하나의 API로 연결하고 관리하는 기업용 AI Gateway 플랫폼"이라고 소개합니다. 모델마다 따로 개발해 붙이지 않고, 하나의 API(프로그램끼리 요청과 답을 주고받는 연결 방식)를 연동해 여러 모델을 골라 쓰는 구조입니다.

보도자료는 토큰팩토리가 국내·외 500개 이상의 AI 모델을 통합 제공하고 가입부터 사용량 확인, 비용 관리, 결제까지 한 곳에서 처리한다고 밝혔습니다. 500개라는 숫자는 KT가 AI 게이트웨이 플랫폼 오픈라우터(OpenRouter)와 공식 파트너십을 맺어 "토큰팩토리 플랫폼에 연계 가능한 글로벌 AI 모델 500개 이상을 확보"했다는 문장과 이어집니다. 제품 페이지 FAQ는 사용할 수 있는 모델로 "KT가 제공하는 AI 모델 믿음을 비롯해 ChatGpt, Claude, Gemini 등"을 들고, 제공 모델을 계속 늘릴 예정이라고 적었습니다.

비용은 제품 페이지가 더 자세히 설명합니다. 토큰팩토리는 "사용량만큼 과금"하고, 모델별 토큰 사용량과 이용 비용을 대시보드에서 확인해 원화 기준으로 관리하게 해 줍니다. 토큰은 AI가 질문과 문서를 이해하고 답을 만들 때 처리하는 기본 단위입니다. 해외 AI 서비스를 달러로 결제해 환율을 따로 계산하던 회사라면 원화 기준 관리가 실제 청구서에 어떻게 반영되는지 살펴보시면 좋습니다.

2. 오토 모델 라우터가 요청마다 모델을 고릅니다

보도자료에 따르면 KT가 자체 개발한 '오토 모델 라우터(Auto Model Router)'는 "질문의 업무 유형, 난이도, 품질, 비용, 고객이 사전에 허용한 모델 범위 등을 종합해 AI 모델을 선택"합니다. 단순 업무에는 가벼운 모델을, 복잡한 분석 업무에는 고성능 모델을 쓰는 방식입니다.

여기에 한국어 특성을 고려한 프롬프트 압축이 더해집니다. 보도자료는 불필요한 반복 표현을 덜어 입력 토큰 수를 줄인다고 설명하고, 라우터와 압축 기술로 "토큰 사용을 최대 25%까지 절감"한다고 밝혔습니다. 이 25%는 KT가 발표한 수치이고, 어떤 업무와 모델 조합에서 잰 값인지는 보도자료에 적혀 있지 않습니다.

라우팅 성능 순위는 KT 발표마다 표현이 다릅니다. 9월 27일 보도자료는 같은 기술(AutoModelRouter)이 공개 벤치마크 RouterArena에서 "종합 2위"를 기록했고 정확도와 비용을 함께 평가하는 'Acc-Cost Arena' 기준 2위에 올랐다고 적었습니다. 10월 27일 보도자료는 같은 RouterArena에서 "종합 1위"를 기록했다고 적었습니다. 그사이 순위가 바뀌었는지는 확인하지 못해 각 발표를 날짜와 함께 그대로 옮깁니다.

3. 국내 추론과 가드레일, 지금 있는 기능과 계획

보도자료는 토큰팩토리가 "한국 내 KT 데이터센터에서 직접 AI 추론 서비스를 제공한다"고 밝혔습니다. 추론은 학습을 마친 모델이 실제 질문에 답을 만드는 과정입니다. 국내 인프라에서 제공한다고 적힌 모델은 KT 자체 모델, 국내외 오픈웨이트 모델(공개된 모델 파일을 받아 직접 운영할 수 있는 모델), 독자 AI 파운데이션 모델입니다. 제품 페이지도 모델을 'KT 호스팅 AI 모델'과 '글로벌 호스팅 AI 모델'로 나누고 "서비스 특성, 업무 목적, 데이터 활용 조건에 따라 필요한 모델을 선택하세요"라고 안내합니다.

필자가 읽기로는 국내 데이터센터 추론은 KT 호스팅 모델에 대한 설명이고, 오픈라우터로 연계되는 글로벌 모델이 어디에서 추론되는지는 보도자료와 제품 페이지 모두 적지 않았습니다. 개인정보나 영업 자료를 다루는 부서라면 요청이 어느 쪽 모델로 가는지를 먼저 확인하셔야 합니다.

가드레일(AI 입력과 답을 점검하는 안전장치)도 기능과 계획을 나눠 읽으셔야 합니다. 보도자료에 따르면 고객이 입력하는 프롬프트의 개인정보·민감정보·유해 표현을 점검하고, AI가 만든 답변도 가드레일로 점검합니다. 고객별 업무환경과 보안 요구에 맞춰 탐지 대상과 차단 수준을 세밀하게 설정하는 기능은 "향후에는" 확장할 계획이라고 적혀 있어 출시 시점 기능으로 보기 어렵습니다.

각 상자의 기능 설명과 25% 수치, 향후 계획 표시는 KT 보도자료(2026년 10월 27일)와 KT Enterprise 제품 페이지 내용입니다. 층으로 묶은 배치, 실선과 점선 구분, "추론 위치는 공식 자료에 없음" 표시는 작성자가 구성했습니다. 층의 위아래 배치는 실제 처리 순서를 뜻하지 않습니다.

4. 공식 자료에 아직 없는 것과 출시 후 물어볼 질문

요금 안내에는 단가표가 없습니다. 제품 페이지 요금안내는 "전문 컨설팅을 통해 최적의 요금을 설계해드립니다."라고만 적었고, FAQ는 선택한 모델과 사용량에 따라 요금이 산정된다고 답합니다. 보도자료 소제목에 'B2C까지 시장 확대'라는 표현이 있지만 개인 고객 제공 시기는 본문에 없습니다. 아래 표의 오른쪽 칸은 필자가 정리한 예시 질문이며, KT가 답한 내용이 아닙니다.

항목	공식 자료에 적힌 내용	출시 후 확인할 질문(예시)
요금	사용량만큼 과금, 원화 기준 관리, 요금은 컨설팅으로 설계	모델별 단가표와 최소 약정이 있는지
지원 모델	국내·외 500개 이상, FAQ에 믿음·ChatGpt·Claude·Gemini 등	우리 팀이 쓰는 모델이 있는지, 그 모델이 KT 호스팅인지
데이터 처리 위치	KT 호스팅 모델은 한국 내 KT 데이터센터에서 추론	허용 모델 범위를 국내 추론 모델로만 정할 수 있는지
라우팅	업무 유형·난이도·품질·비용·허용 모델 범위로 선택	라우터가 고른 모델을 요청별 기록으로 볼 수 있는지
연동	하나의 API, FAQ는 기존 서비스의 전체 구조를 바꾸지 않고 필요한 영역에 연동 가능	지금 쓰는 사내 도구가 요구하는 API 형식과 맞는지
절감 효과	토큰 최대 25% 절감(KT 발표)	측정 조건, 우리 업무에서 실제로 줄어드는 양

5. 10월 30일 출시 전에 해 둘 일

1. 지금 회사에서 쓰는 AI 서비스와 모델 이름, 쓰는 부서, 한 달 비용을 표 한 장에 적으십시오.
2. 업무를 개인정보·영업 자료가 들어가는 업무와 공개 자료만 쓰는 업무로 나누고, 국내에서 추론하는 모델만 써야 하는 업무를 표시하십시오.
3. 4절 표의 질문 가운데 우리 회사에 해당하는 것을 골라 문의 목록으로 정리하십시오. 요금은 상담으로 정한다고 안내돼 있으므로 1번 표의 사용량을 함께 준비하면 견적을 비교하기 쉽습니다.
4. 25% 절감 수치는 예산에 바로 넣지 마십시오. 시험해 볼 기회가 생기면 같은 업무를 기존 방식과 나란히 실행해 토큰 사용량을 직접 비교하십시오.