Two-Tier Self-Improving System
영업 데모가 아닌 엔지니어링 깊이
Fast Loop
분 단위 · 프롬프트 진화
응답 생성
사용자 쿼리에 대해 LLM이 초안 응답을 생성합니다
환각 탐지
자체 sLM이 생성된 응답의 사실 정합성을 실시간 검증합니다
Reflection
탐지 결과를 기반으로 어떤 유형의 환각이 발생했는지 분류합니다
프롬프트 진화
분류된 패턴에 맞춰 시스템 프롬프트를 자동으로 수정합니다
즉시 적용
수정된 프롬프트가 다음 요청부터 즉시 반영됩니다
Slow Loop
일 단위 · 모델 학습
패턴 누적
Fast Loop에서 수집된 환각 패턴과 교정 데이터가 일 단위로 축적됩니다
도메인 평가
축적된 데이터를 도메인별 평가 기준으로 자동 분석합니다
Reward modeling
올바른 응답과 환각 응답 쌍으로 reward 신호를 생성합니다
Fine-tune
생성된 reward 데이터로 sLM을 도메인에 특화하여 재학습합니다
자동 배포
학습된 모델이 평가를 통과하면 운영 환경에 자동 배포됩니다
환각 탐지 sLM — 시스템의 심장
sLM은 Fast Loop와 Slow Loop 모두의 중심에 있습니다. Fast Loop에서는 매 응답마다 환각 여부를 실시간으로 판별하고, Slow Loop에서는 축적된 패턴 데이터가 sLM 자체를 더 정확하게 만듭니다. 두 루프가 하나의 모델을 공유하기 때문에 시스템 전체가 하나의 피드백 사이클로 동작합니다.
94.25%
환각 탐지 정확도
4B
경량 모델 파라미터
~1/100
프론티어 모델 대비 비용
sLM — Hallucination Detection Pipeline
망분리 환경 작동
Patronus / Predibase
SaaS 전용 아키텍처로 망분리 환경에 배포할 수 없습니다. 평가 데이터가 외부 서버로 전송되며, 모델 학습은 클라우드에서만 가능합니다. 금융, 국방, 공공기관 등 데이터 주권이 요구되는 환경에서는 사용이 불가합니다.
완전한 온프레미스 작동
자체 sLM + 로컬 fine-tune + 데이터 외부 유출 없음. 모든 구성 요소가 고객 인프라 내에서 실행됩니다. 인터넷 연결 없이도 환각 탐지, 평가, 모델 개선의 전체 루프가 동작합니다.
통합되어야 닫힌다
n8n + 외부 서비스
n8n 같은 워크플로우 도구에 외부 환각 탐지 API, 별도 평가 도구, 서드파티 학습 플랫폼을 연결하면 파이프라인은 만들 수 있습니다. 하지만 각 단계의 결과가 다음 단계로 자동 피드백되지 않습니다. 환각 패턴이 프롬프트를 수정하고, 수정된 프롬프트의 결과가 다시 모델 학습으로 이어지는 닫힌 루프는 수동 개입 없이 불가능합니다.
하나의 시스템
Builder + Verifier + Evaluator + Trainer가 하나의 시스템 안에 통합되어 있습니다. 환각이 탐지되면 프롬프트가 진화하고, 패턴이 쌓이면 모델이 학습됩니다. 사람이 개입하지 않아도 시스템이 스스로 정확해집니다.
통합 옵션
자체 sLM 모드
CT의 4B sLM을 고객 인프라에 직접 배포합니다. 망분리 환경, 데이터 주권 요구사항이 있는 조직에 적합합니다. 모든 데이터가 내부에 유지되며, fine-tune까지 로컬에서 수행됩니다.
외부 프로바이더 모드
OpenAI, Anthropic 등 외부 LLM 프로바이더와 연동하여 사용합니다. CT의 환각 탐지 및 자기 개선 루프가 외부 모델 위에 레이어로 동작합니다. 빠른 도입과 유연한 모델 교체가 가능합니다.
연간 제품 라이센스
Two-Tier 시스템 전체를 연간 라이센스로 도입합니다. 환각 탐지 sLM, closed-loop 인프라, 모니터링 대시보드가 포함됩니다
1개월 구축 지원
연간 라이센스에 포함된 FDE 구축 지원. 고객 환경에 맞춘 배포, 도메인 평가셋 작성, 초기 closed-loop 세팅을 함께 수행합니다