← GitHub 목록GitHubAI인프라프레임워크중요도 8PythonBerriAI/litellm100개 이상 LLM을 OpenAI 형식으로 통합 호출하는 오픈소스 AI 게이트웨이★ 51.9K포크 9.3K주간 +833GitHub에서 보기 ↗북마크링크 복사AI 분석한줄 요약100개 이상의 LLM 제공업체를 하나의 OpenAI 호환 인터페이스로 통합 호출하는 오픈소스 AI 게이트웨이 프레임워크입니다.핵심 기능통합 API: OpenAI, Anthropic, Gemini, Bedrock 등 100개 이상의 LLM을 하나의 인터페이스로 호출합니다.유연한 배포: Python SDK로 직접 통합하거나, 팀/조직을 위한 중앙 집중형 프록시 서버(AI 게이트웨이)로 배포할 수 있습니다.엔터프라이즈 기능: 비용 추적, 로드 밸런싱, 가드레일, 로깅 등 기업 환경에 필요한 기능을 내장하고 있습니다.언제 쓰나여러 LLM 제공업체를 사용하는 애플리케이션을 개발할 때 SDK와 요청 형식의 차이를 추상화하고 싶을 때, 또는 팀 전체의 LLM 사용을 관리하고 비용을 추적해야 할 때 사용합니다.