로컬 우선 모델 라우팅: API 낭비를 멈춰라
작은 로컬 LLM으로 요청을 올바른 모델 풀에 지능적으로 라우팅하여 낭비되는 API 호출 제거
Llm
모델 ID는 정확히 일치해야 한다: Provider Lookup 함정
‘비슷한’ 모델 ID는 충분하지 않다. Provider 조회가 조용히 실패하다가 터지는 순간.
편집 없는 기록
작은 로컬 LLM으로 요청을 올바른 모델 풀에 지능적으로 라우팅하여 낭비되는 API 호출 제거
‘비슷한’ 모델 ID는 충분하지 않다. Provider 조회가 조용히 실패하다가 터지는 순간.