LLM Provider 추상화 | Vault | 김승찬 블로그

LLM Provider 추상화 = 여러 LLM 공급자 OpenAI, Anthropic, Bedrock, Gemini, Ollama, vLLM 등 를 단일 인터페이스로 감싸 서, 호출부 코드를 모델 교체에 무관하게 만드는 패턴. 운영 중 발생하는 가장 잦은 변경 — 모델 업그레이드/다운그레이드, 비용 절감을 위한 라우팅, 멀티 리전 fallback — 을 코드 한 줄 수정으로 끝내기 위한 layer. 왜 필요한가 공급자마다 SDK·메시지 포맷·tool call 스키마·streaming 형식이 다르다. 호출부가 openai.chat.completions.create...