← 전체 글

#openai 1개

LiteLLM으로 LLM API 통합하기 — 개인 인프라에서 엔터프라이즈까지

100개 이상의 LLM을 단일 OpenAI 형식으로 통합하는 LiteLLM. SDK와 Proxy Server의 차이, 실제 운영 경험, 도입 판단 기준을 공유합니다.

ai llm gateway openai devops kubernetes