CT의 자체 모델

CT는 범용 대형 모델을 직접 만들지 않습니다. 대신 CT 시스템이 제대로 작동하는 데 꼭 필요한 두 가지 역할에 집중한 자체 모델을 개발합니다. 하나는 답변이 믿을 만한지 판정하는 모델이고, 다른 하나는 기업 업무에 맞춰 비용을 낮추는 모델입니다. 둘 다 CT의 강화학습 방식으로 학습되며, 운영 데이터가 쌓일수록 함께 좋아지도록 설계돼 있습니다.

1. 환각 탐지 및 시뮬레이션 모델

에이전트가 낸 답변이 근거와 맞는지, 어디서 어긋났는지를 판정하고, 새 에이전트나 데이터 변경을 실제 배포 전에 시뮬레이션으로 검증하는 모델입니다. Qwen 를 기반으로, 정답 여부를 검증 가능한 신호로 학습시키는 RLVR(검증 가능한 보상 기반 강화학습) 방식으로 개발하고 있습니다. 사람의 주관적 평가가 아니라 “근거와 일치하는가”라는 확인 가능한 기준으로 학습하기 때문에, 산업별 규정이나 사내 문서처럼 정답이 분명한 영역에서 판정 정확도가 높습니다. 이 모델이 CT의 자가개선 루프에서 “무엇이 틀렸는지”를 찾아내는 눈 역할을 합니다.

이 모델은 약 27B 규모로, 최신 Opus 모델의 92% 수준으로 환각을 잡아냅니다. 모델이 작은 만큼 호출 비용은 100배 이상 낮습니다. 그래서 일부만 표본으로 뽑아 보는 대신, 오가는 모든 응답을 전수 조사할 수 있습니다.

(곧 비교 차트 제공 예정)

2. 비용 최적화 특화 모델

기업 안에서 실제로 오가는 AI 질문과 응답 데이터를 수집해, 자주 반복되는 업무 유형에 맞춘 소형 특화 모델을 강화학습으로 개발합니다. 간단하고 반복적인 요청은 이 모델이 처리하고, 어렵거나 중요한 요청만 외부 고성능 모델로 보내기 때문에 전체 토큰 비용이 크게 줄어듭니다. 기업이 쓰면 쓸수록 데이터가 쌓이고, 그만큼 특화 모델이 더 많은 요청을 맡게 되어 비용은 시간이 갈수록 내려가는 구조입니다. 이 모델은 CT의 자가개선 루프에서 “찾아낸 개선을 비용으로 되돌려주는” 역할을 합니다.

3. 시뮬레이션 모델 (Beta) — 어떻게 고칠지 실험하고 고릅니다

문제가 발견되면 고칠 방법은 여러 가지입니다. 데이터를 다시 정리할 수도, 검색 방식을 바꿀 수도, 프롬프트나 모델을 교체할 수도 있습니다. 시뮬레이션 모델은 그 후보들을 실제 배포 전에 미리 돌려보고, 성능과 비용을 함께 놓고 가장 유망한 후보군을 추려내는 것을 목표로 합니다. 현재는 베타 단계로, 일부 고객 환경에서 실험 중입니다. 지금 이 단계는 엔지니어가 CT의 기록과 평가 결과를 보고 판단하며, 시뮬레이션 모델은 그 판단을 돕는 보조 도구로 먼저 붙고 있습니다. 루프에서 이 모델이 자리 잡으면 사람은 후보 중 최종 선택에만 관여하게 됩니다.