LibreAI / Entwickler-Tools / FreeLLMAPI
// devtools · tashfeenahmed/freellmapi

FreeLLMAPI

FreeLLMAPI ist ein Open-Source-Projekt aus der Kategorie Entwickler-Tools von tashfeenahmed (tashfeenahmed/freellmapi auf GitHub). Es hat 52.700 Sterne auf GitHub und 7.381 Forks, wird unter der Lizenz MIT veröffentlicht und wurde zuletzt am 15. November 2026 auf GitHub aktualisiert.

87 free LLM providers behind one OpenAI-compatible endpoint, with routing and failover

★ 52,7 Tsd. Sterne⑂ 7,4 Tsd. ForksMITaktualisiert Nov 2026
▦ Visual — das README dieses Projekts enthält keinen einbettbaren Screenshot,
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
// projektdaten

Projektdaten

GitHub-Sterne
52.700
Forks
7.381
Lizenz
MIT
Zuletzt auf GitHub aktualisiert
15. November 2026
Eintragstyp
Vollständige Installationsanleitung
Offizielle Website
Official site
// so funktioniert es

So funktioniert es

  1. Clone the repo

    Get the source, which ships a Docker Compose file.

  2. Start it with Compose

    Bring the container up in the background.

  3. Add your keys

    Open the dashboard, add provider keys on the Keys page, and order the fallback chain.

  4. Point your client at it

    Use the unified API key from the Keys page header with any OpenAI SDK.

// funktionen

Warum es so beliebt ist

One endpoint, many free tiers

87 free providers and 1,313 free endpoints behind a single OpenAI-compatible /v1 API.

Smart routing and failover

The router picks the best available model per request and fails over when a provider rate-limits.

Per-key usage tracking

Usage is tracked per key so you stay under every free-tier cap.

Encrypted keys

Provider keys are stored encrypted, not in plain text.

Self-updating catalog

The model catalog updates from a signed feed — new free models and quota changes without a git pull.

Works with your clients

Compatible with OpenAI SDKs, CLIs and coding agents that speak the /v1 API.

// selbst ausführen

Führe es selbst aus

  1. Step 1 — Clone the repo

    Download the source and move into the folder.

    git clone https://github.com/tashfeenahmed/freellmapi.git
    cd freellmapi
  2. Step 2 — Start it

    Bring the service up with Docker Compose.

    docker compose up -d
  3. Step 3 — Check it is up

    Confirm the dashboard answers on port 3001.

    curl -s -o /dev/null -w "%{http_code}\n" http://localhost:3001
// anwendungsfälle

Was du damit bauen kannst

  • Use many providers’ free tiers through one API key and one endpoint.
  • Keep coding agents running when one provider rate-limits, via automatic failover.
  • Stay under every free-tier cap with per-key usage tracking.
  • Try models from 736 families without signing up to each provider separately.

For comparison, the same shelf also holds LocalAI — is the open-source AI engine and llama.cpp — LLM inference in C/C++. The complete list is the Dev Tools shelf.

// häufige fragen

Häufige Fragen

What is FreeLLMAPI?

A self-hosted aggregator that puts dozens of providers’ free LLM tiers behind one OpenAI-compatible /v1 endpoint.

Is it really free?

The software is MIT licensed and free to self-host. You still need your own provider keys, and each provider’s free tier has its own terms.

How does the router work?

It picks the best available model per request, fails over to the next provider on rate limits, and tracks usage per key.

What is the $19/yr premium?

The live model catalog, updated the same day. Free installs get the monthly snapshot instead — a 30-day lag on new models.

Do I need Docker?

The quick start uses Docker Compose; there is also a desktop app and a source run.

// weiter entdecken

Ähnliche Tools

KI-Agenten

LocalAI

LocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.

★ 49,4 Tsd. SterneMIT
Anleitung ansehen →
Lokale LLMs

llama.cpp

LLM inference in C/C++

★ 130,2 Tsd. SterneMIT
Anleitung ansehen →
Lokale LLMs

vLLM

A high-throughput and memory-efficient inference and serving engine for LLMs

★ 93,1 Tsd. SterneApache-2.0
Anleitung ansehen →
Entwickler-Tools

aichat

One Rust CLI for every LLM: shell assistant, chat REPL, RAG, tools and agents across 20+ providers.

★ 10,5 Tsd. SterneApache-2.0
Anleitung ansehen →
Entwickler-Tools

rtk

CLI proxy that cuts LLM token consumption 60-90% on common dev commands — one Rust binary

★ 82,7 Tsd. SterneApache-2.0
Anleitung ansehen →
Entwickler-Tools

toon

TOON: a compact, human-readable serialization of JSON that saves tokens in LLM prompts

★ 25,5 Tsd. SterneMIT
Anleitung ansehen →
// alternativen

Alternativen im Bereich Entwickler-Tools

Die anderen Projekte der Kategorie Entwickler-Tools mit den meisten Sternen im LibreAI-Katalog — die realistische Auswahl, falls FreeLLMAPI nicht das Richtige ist.

  • OpenCode★ 211,6 Tsd.

    The open source coding agent

  • Transformers★ 166,9 Tsd.

    The model-definition framework behind modern AI — thousands of pretrained transformers for text, vision, and audio.

  • claude-code★ 149,7 Tsd.

    Anthropic's agentic coding tool that lives in your terminal and works across your whole codebase

  • cc-switch★ 141,3 Tsd.

    Cross-platform desktop all-in-one manager for Claude Code, Codex, OpenCode and other coding agents

  • codex★ 128,2 Tsd.

    OpenAI's lightweight coding agent that runs locally in your terminal

// mehr in devtools

Mehr in Entwickler-Tools

Verwandte Projekte der Kategorie Entwickler-Tools im Katalog, die FreeLLMAPI bei den Sternen am nächsten stehen — zum Weiterstöbern auf beiden Seiten.

  • claude-cookbooks★ 53,3 Tsd.

    Anthropic's official collection of notebooks and recipes for using Claude effectively

  • Aider★ 49,4 Tsd.

    Aider is AI pair programming in your terminal

  • Context7★ 62,6 Tsd.

    Context7 Platform -- Up-to-date code documentation for LLMs and AI code editors

  • ray★ 44,0 Tsd.

    An AI compute engine: a distributed runtime plus libraries for scaling ML and LLM workloads

  • oh-my-openagent★ 69,9 Tsd.

    OmO: a batteries-included orchestration layer that turns OpenCode into a multi-agent master

  • Gradio★ 43,7 Tsd.

    Build machine-learning web demos in Python within minutes — the fastest way to share a model with the world.

Hol dir FreeLLMAPI

Kostenlos und offen — hol dir den Quellcode, gib dem Repository einen Stern und leg los.