클라우드플레어는 2026년 9월 30일 AI Gateway의 Auto Router를 공개 베타로 내놨다. AI 요청의 모델 이름을 cloudflare/auto로 지정하면, 라우터가 작업에 필요한 성능을 고려해 모델을 선택한다. 개발자나 사용자가 모든 요청에서 모델을 직접 고를 필요를 줄이려는 기능이다. 출처
어떤 비용 수치가 제시됐나
클라우드플레어는 내부 OpenCode 환경에서 최상위 모델만 쓸 때와 비교해 비용을 최대 30% 절감했다고 밝혔다. 별도의 사내 업무 평가에서는 이메일, 일정, 파일 등을 다루는 모의 작업을 사용했다. 이 수치는 클라우드플레어가 정한 작업과 비교 조건에서 나온 결과이므로 모든 서비스의 절감률을 뜻하지 않는다. 출처
적용 전 살펴볼 점
Auto Router는 요청에 따라 모델을 바꾼다. 따라서 특정 모델의 동작을 전제로 품질이나 비용을 관리하던 서비스라면 실제 요청을 대상으로 결과와 지출을 비교하는 것이 적절하다. 현재 발표된 제공 단계는 공개 베타다. 운영 환경에 적용할 때는 모델 지정값을 바꾸는 범위와 기존 평가 기준을 함께 확인해야 한다. 출처