KT, AI 선택부터 토큰 절감까지 한번에 ‘토큰팩토리’ 공개…500여종 모델 연계 > 공지사항

KT, AI 선택부터 토큰 절감까지 한번에 ‘토큰팩토리’ 공개…500여종 모델 연계

페이지 정보

작성자 행복이이
댓글 0건 조회 2회 작성일 26-11-01 05:32

본문

KT가 인공지능(AI) 모델 선택부터 효율적인 활용, 민감 정보 보호까지 통합적으로 관리하는 플랫폼 ‘토큰팩토리’를 오는 30일 출시한다. AI가 얼마나 많은 토큰(AI 연산의 기본 단위)을 사용했는지, 그 비용이 얼마인지를 따지는 ‘토큰 경제’가 중요해지자 한 곳에서 전 세계 500여종 AI 모델을 연결해 사용하고 토큰도 절감할 수 있는 시스템을 내놓은 것이다.
KT는 27일 서울 종로구 광화문 West빌딩에서 기자간담회를 열고 인공지능 전환(AX)을 지원하는 핵심 플랫폼이자 새롭게 육성할 성장사업으로 AI 플랫폼 토큰팩토리를 소개했다.
토큰팩토리는 AI 모델 선택, 비용 관리, 신뢰·안전 기능을 하나의 플랫폼에서 제공하는 서비스다.
기업이 어떤 AI 모델을 선택하느냐는 비용 문제로 이어진다. 간단한 업무에 비싼 고성능 AI 모델을 쓰거나, 업무 특성에 맞지 않는 모델을 쓰면 불필요한 비용이 늘어난다. 하지만 시중의 수많은 AI 모델 중에서 기업이 자사에 적절한 모델이 무엇인지 찾기도 힘든 실정이다. KT는 이 영역을 노렸다.
KT의 토큰팩토리에선 자체 개발한 ‘오토 모델 라우터’ 기능으로 업무 특성에 맞고 비용 절감이 되는 AI 모델을 자동으로 찾을 수 있다. 각 AI 모델의 가격, 성능, 입·출력 단가 등 특성을 한 페이지에서 탐색할 수 있고, 프롬프트(지시문)에 대한 각 AI 모델의 답변, 토큰 소모량, 답변 소요시간 등을 비교할 수 있다. 품질과 비용 중 어느 것을 더 중요하게 여기는지 가중치를 선택하면 적절한 모델을 안내해준다.
토큰팩토리에선 업스테이지의 솔라 프로4, KT의 믿음 K3.0, 모티프의 모티프-3 등 국산 AI 모델 3종과 해외 오픈소스 모델 4종을 포함해 73종의 AI 모델을 먼저 제공한다. KT는 다음달 AI 모델 분석 플랫폼 ‘오픈라우터’와 협력해 전 세계 500여종의 AI 모델을 토큰팩토리에 연계할 예정이다. 국내 AI 모델을 오픈라우터를 통해 해외에 유통하는 사업도 진행한다.
이진형 KT AX사업본부장은 “기업들이 부서별로 AI 비용을 따로 관리하려는 욕구를 갖고 있고, 최신 AI 모델이 계속 나오는데 모델마다 따로 가입해야 하는 등 복잡한 방식 때문에 겪는 불편함도 있었다”며 “토큰팩토리에선 적합한 모델을 알아서 골라주고, 항상 비싼 모델이 아니라 비용 최적화를 위한 모델을 찾아줄 수 있다”고 했다.
토큰팩토리에는 프롬프트 압축 기술이 적용돼 프롬프트의 의미는 유지하되 불필요한 내용을 줄여 전체적인 토큰 사용량을 25% 절감할 수 있다. 토큰 사용료는 사용한만큼만 투명하게 책정한다. 총 사용량과 절감된 양을 확인해 결제까지 한번에 할 수 있다.
KT는 신뢰·안전과 관련해선 토큰팩토리 내에서 검증된 모델만 제공하도록 하고, 고객 데이터를 저장·학습하지 않는 것을 원칙으로 했다. 데이터는 국내 데이터센터에서 처리하고, 가드레일(안전장치) 적용으로 보안을 강화했다. 또 AI 모델에 개인정보가 포함된 프롬프트 입력을 방지하는 장치를 뒀다. 예를 들어 질문에 주민등록번호가 들어가면 AI가 ‘정책 위반 요소가 포함돼있어 요청을 수행할 수 없다’며 답변을 거부해 개인정보 입력을 막는 방식이다.
KT는 오는 30일 토큰팩토리를 기업고객 대상으로 우선 출시하고, 내년 3월 개발자와 개인고객까지 서비스 범위를 확대할 예정이다. 박상원 KT AX사업부문장은 “AI 시장은 이제 누가 더 좋은 모델을 만드느냐보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 빠르게 전환되고 있다”며 “KT는 통신사업에서 축적한 연결·과금·보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 고객의 AX 전환을 지원하고 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시켜 나가겠다”고 밝혔다.
택배 기사 자리에 휴머노이드 로봇이 섰습니다. 테슬라 사이버트럭 뒤편에 선 로봇이 짐칸에 성큼 올라탑니다. 아마존, 월마트 로고가 찍힌 상자들 사이로 로봇이 각도에 맞춰 손을 뻗습니다. 집어 든 상자를 품 안에 끌어안고 짐칸을 엉거주춤 내려오는데요. 건물 출입문 앞에 내려놓기까지, 속도는 조금 느리지만 제법 사람과 비슷한 모습입니다.
미국 로봇 스타트업 리워드AI가 지난 27일(현지시간) 공개한 시연 영상의 한 장면입니다. 실내로 발걸음을 옮긴 로봇은 계단에 놓인 물건을 주워들고, 대걸레로 바닥을 닦습니다. 회사 측은 사람의 원격 조종 없이 로봇이 스스로 움직인 것이라고 설명했습니다.
눈여겨볼 부분은 로봇이 이런 ‘일머리’를 익힌 방식입니다. 회사는 로봇을 직접 움직여 가르치는 대신 사람의 손놀림을 학습시켰습니다. 사람이 센서 장갑 ‘옴니바디 핸드’를 끼고 물건을 집거나 문을 열면 손가락 움직임과 접촉 순간, 힘, 주변 모습이 기록됩니다. 로봇용 인공지능(AI) 모델 ‘OM-1’은 이를 바탕으로 상황에 맞는 동작을 만들어내고요. 다만 현장에서 물체의 무게·위치가 달라져도 안정적으로 작업할지는 아직 검증이 필요합니다.
회사가 이 방식을 택한 건 로봇 학습데이터가 부족하기 때문인데요. 챗GPT 같은 생성AI는 인터넷의 글과 이미지를 학습하지만, 로봇은 영상만으로 물건을 쥐는 힘까지 익히기 어렵습니다. 그래서 사람이 로봇을 원격 조종하며 동작을 하나씩 가르치는 경우가 많았는데요. 시간과 비용이 많이 들었습니다. 문제는 새로운 일을 맡길 때마다 이런 훈련을 반복할 수는 없다는 겁니다. 한 번 배운 기술을 다른 작업에도 응용할 수 있어야 하는 것이죠.
AI 업계도 제각기 다른 방식으로 로봇 일머리를 키우고 있습니다. 구글의 해법은 ‘생각하는 로봇’입니다. 리워드AI가 사람의 ‘손기술’을 배우는 데 집중한다면, 구글은 지시를 이해하고 일을 풀어나가는 ‘판단력’을 앞세웁니다.
지난 7월 공개한 ‘제미나이 로보틱스 2’를 탑재한 휴머노이드는 “물뿌리개를 선반 아래 초록색 통에 넣으라”는 말을 알아듣고, 테이블로 걸어가 물뿌리개를 집어 통에 넣습니다. 말로 들은 물건과 위치를 눈으로 확인하고, 그에 맞춰 몸을 움직이는 겁니다.
물론 말귀를 알아듣는 것과 실제 일을 해내는 것은 별개입니다. 구글도 로봇의 움직임이 아직 느리다고 인정했는데요. 자체 평가에서 바닥의 물건을 집는 성공률은 45.7%, 전구를 끼우는 작업은 36%에 그쳤죠.
엔비디아는 로봇이 연습할 공간을 넓히는 데 주력합니다. 현실에서 모으기 어려운 경험을 ‘가상 훈련장’에서 대량으로 쌓게 하는 것이죠. 지난 23일 공개한 영상에는 수많은 소형 이족보행 로봇 ‘마이크로덕’가 경사로를 오르고 장애물을 넘는데, 모두 컴퓨터 속 복제본입니다.
엔비디아는 로봇 학습 도구 ‘아이작랩’으로 가상환경 4096개를 동시에 돌리며 걷는 법을 학습시켰습니다. 넘어져도 부서질 걱정 없이 수천 대가 한꺼번에 시행착오를 쌓는 방식입니다. 학습 환경을 물리적으로 구현할 필요가 없어서 비용 절감에 유리하죠.
다만 가상 훈련장이 만능은 아닙니다. 걷기처럼 균형을 다루는 일은 물리 법칙으로 비교적 정확히 흉내 낼 수 있지만, 손끝에 닿는 느낌이나 물체가 찌그러지는 모습까지 현실처럼 구현하기는 아직 어렵습니다. 업계가 센서 장갑이나 원격 조종으로 현실의 손 데이터를 확보하는 데 공을 들이는 이유입니다.
결국 로봇의 ‘챗GPT 모먼트’를 가를 것은 낯선 환경에서 얼마나 안정적으로 일하느냐일 겁니다. 중국 휴머노이드 기업 유니트리의 왕싱싱 창업자는 ‘처음 접한 환경의 80%에서 지시받은 작업의 80%를 수행하는 수준’을 전환점의 기준으로 제시하며, 1~2년 안에 가능할 것으로 내다봤습니다. 하지만 몇 가지 동작을 시연하는 것과 돌발 상황에 스스로 대처하는 것은 또 다른 문제인데요. 영상 속 한 번의 성공보다 실제 현장에서 수백 번의 작업을 얼마나 적은 실수로 해내느냐가 관건입니다.

이전글2026 단오 남성 활력 제품 구매 가이드 26.11.01
다음글파워약국 황금빛 골드비아그라 허브·생약 원료 정보 26.11.01

댓글목록

등록된 댓글이 없습니다.

KT, AI 선택부터 토큰 절감까지 한번에 ‘토큰팩토리’ 공개…500여종 모델 연계 > 공지사항

공지사항

페이지 정보

본문

댓글목록

회원로그인