LiteLLM

✓ geprüft, Sync 2026-08-20

LiteLLM is an LLM Gateway (OpenAI Proxy) designed to manage authentication, load balancing, and spend tracking across 100+ LLMs, all while maintaining the OpenAI format. It simplif….

PreismodellKostenlos

Bewertung2.0 auf Toolify

Kategorie AI APILarge Language Models (LLMs)AI Developer ToolsOpen Source AI ModelsAI Web ScrapingAI For Data Analytics +4

Indexiert seit2026-08-20

Was es tut.

Aus dem Englischen übersetzt · Originaltext: Englisch

LiteLLM ist ein LLM-Gateway (OpenAI-Proxy), das entwickelt wurde, um Authentifizierung, Load Balancing und Spend-Tracking über 100+ LLMs zu verwalten, während das OpenAI-Format beibehalten wird. Es vereinfacht den Prozess der Verwendung von LLM-APIs von verschiedenen Anbietern wie OpenAI, Azure, Cohere, Anthropic, Replicate und Google. LiteLLM bietet konsistente Outputs und Ausnahmen für alle LLM-APIs zusammen mit Logging und Fehlerverfolgung für alle Modelle. Es bietet Funktionen wie Kostenverfolgung, Batches-API, Guardrails, Modellzugang, Budgets, LLM-Beobachtbarkeit, Rate-Limiting, Prompt-Management, S3-Logging und Pass-Through-Endpunkte.

Registry-ID ndock:tool:litellm

Funktionen

Aus dem Englischen übersetzt · Originaltext: Englisch

LLM-Gateway für 100+ LLMs
OpenAI-kompatible API
Kostenverfolgung und Budgetmanagement
LLM-Fallbacks
Load Balancing
Rate Limiting
Prompt-Management
Logging und Fehlerverfolgung

Preis-Historie.

bei jedem Sync automatisch verglichen: das Changelog, das andere Verzeichnisse nicht führen

Keine freigegebenen Preisereignisse verzeichnet

Die Preise dieses Eintrags haben sich seit der Indexierung nicht geändert, oder eine Änderung ist noch in Prüfung. Null Ereignisse ist eine echte Antwort, keine fehlende Daten.

Weitere ai api Tools.

BLACKBOX AI Extension - Chrome Extension The BLACKBOX AI Extension is a tool designed to enhance your coding workflow by providing Free Translation Service - Chrome Extension This is a free translation service for foreign websites, allowing you to choose from Googl Auto WhatsApp Translator - AI Online Translator - Chrome Extension Auto WhatsApp Translator is a plugin designed for WhatsApp Web that provides automatic, re