본문으로 건너뛰기
BestAI
비교함

LiteLLM

무료 플랜 있음

셀프 호스팅 오픈소스 LLM 게이트웨이

100개 이상의 LLM 프로바이더를 OpenAI 호환 형식으로 호출하는 오픈소스 파이썬 SDK이자 셀프 호스팅 가능한 AI 게이트웨이(프록시)입니다. 비용 추적, 로드 밸런싱, 폴백, 가드레일, 가상 키 발급을 한곳에서 처리합니다.

오픈소스API 제공상업적 사용 가능
차별점

유사 도구 대비 MIT 코어를 직접 호스팅해 가상 키·예산·비용 추적까지 데이터 외부 유출 없이 운영할 수 있는 것이 강점.

요금제

플랜월 요금한도
Open Source$0/월MIT 라이선스 코어, 셀프 호스팅 시 무료
Enterprise--

AI 스코어

AI가 공개 정보·내부 기준으로 산정 (실측 벤치마크 아님)

88

종합 점수

카테고리 평균 +4
모델 커버리지한국어 지원가성비사용 편의성생태계/통합

실측 벤치마크가 아니라, 웹에 공개된 정보와 내부 평가 기준을 바탕으로 AI가 산정한 스코어입니다.

인지도

같은 카테고리 안에서의 화제성·지명도 (품질 점수 아님)

44

카테고리 내 상대 점수

  • 도메인 권위4.2 / 10
  • Hacker News 화제성2,635 pts
  • GitHub 스타★ 48,838

GitHub 스타·Hacker News 언급·도메인 권위 등 공개 신호를 카테고리별로 정규화해 산정한 화제성 지표입니다. 인기는 품질과 다른 축이며, 신규·틈새 도구에 불리할 수 있어 보조 지표로만 사용합니다. 수집: 2026-05-31.

AI 스코어 순

  • 91
    Hugging Face

    수십만 개의 공개 모델·데이터셋과 추론·배포 인프라를 한 플랫폼에서 제공하는 사실상의 표준 허브라는 점이 강점.

  • 90
    OpenRouter

    제공사 가격을 그대로 패스스루하면서 자동 폴백과 모델 라우팅을 단일 키로 제공하는 것이 강점.

  • 89
    LangGraph

    그래프 기반 상태 영속성으로 중단 후 재개·롤백·감사 추적이 가능해 프로덕션 에이전트에 강한 것이 장점.

  • 87
    Ollama

    명령 한 줄로 오픈 모델을 내려받아 로컬 API 서버로 실행, 데이터 유출 없이 오프라인 추론이 가능한 것이 강점.

  • 86
    Pinecone

    용량 예약 없이 저장·읽기·쓰기 사용량만큼만 내는 서버리스 구조로 가변 워크로드에 강한 것이 강점.

LiteLLM 비교하기

마지막 업데이트: 2026-05-30

전체 도구