Entwickler-Tools
harnessrouter
One API for every agent harness — run Codex, Claude Code and more through a single self-hosted interface
★ 2,9 Tsd. SterneApache-2.0
Anleitung ansehen →LibreAI / Entwickler-Tools / Portkey AI Gateway
// devtools · Portkey-AI/gateway
Portkey AI Gateway
Portkey AI Gateway ist ein Open-Source-Projekt aus der Kategorie Entwickler-Tools von Portkey-AI (Portkey-AI/gateway auf GitHub). Es hat 13.301 Sterne auf GitHub und 1.365 Forks, wird unter der Lizenz MIT veröffentlicht und wurde zuletzt am 25. Mai 2026 auf GitHub aktualisiert.
Portkey AI Gateway — route to 1,600+ AI models through one fast API, with fallbacks and guardrails, MIT
★ 13,3 Tsd. Sterne⑂ 1,4 Tsd. ForksMITaktualisiert Mai 2026
▦ Visual — das README dieses Projekts enthält keinen einbettbaren Screenshot,
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
// projektdaten
Projektdaten
- Repository
- Portkey-AI/gateway
- GitHub-Sterne
- 13.301
- Forks
- 1.365
- Lizenz
- MIT
- Zuletzt auf GitHub aktualisiert
- 25. Mai 2026
- Kategorie
- Entwickler-Tools
- Eintragstyp
- Vollständige Installationsanleitung
- Offizielle Website
- Official site
// so funktioniert es
So funktioniert es
- Run the gateway
Start the gateway locally with npx — no install step for a first try.
- Point your code at it
Use the Portkey SDK to send requests through the gateway to any provider, with one API shape.
- Add reliability and safety
Configure automatic retries and fallbacks, load balancing and conditional routing, and guardrails for your deployments.
// funktionen
Warum es so beliebt ist
One API for 1,600+ models
Language, vision, audio and image models from many providers behind a single integration.
Reliability built in
Automatic retries, fallbacks, load balancing and conditional routing keep apps up when a provider is not.
Guardrails for deployments
Fifty-plus guardrails in the project description protect AI deployments at the gateway layer.
Tiny and fast
A 122kb footprint with under 1ms latency, per the README — a gateway that does not become the bottleneck.
Advertisement
// selbst ausführen
Führe es selbst aus
- Run the gateway
The README quickstart route with npx.
npx @portkey-ai/gateway - Install the Python SDK
The README SDK route for Python apps.
pip install -qU portkey-ai - Use it in Python
The README SDK pattern: create a client and route through the gateway.
from portkey_ai import Portkey
// anwendungsfälle
Was du damit bauen kannst
- Routing one app to many LLM providers without rewriting integrations
- Adding fallbacks and retries so provider outages do not break your app
- Load-balancing and conditionally routing traffic across models
- Protecting AI deployments with gateway-level guardrails
Advertisement
// häufige fragen
Häufige Fragen
Who makes the Portkey AI Gateway?
Portkey, as its open-source AI gateway.
Is it free?
Yes — MIT licensed, with a hosted gateway as a separate paid option.
How many models does it reach?
1,600+ language, vision, audio and image models through one API, per the README.
What is Gateway 2.0?
A pre-release branch merging Portkey enterprise gateway core into open source — the stable documented route today is the 1.x gateway.
How do I get started?
npx @portkey-ai/gateway, then send requests through the Portkey SDK.
// weiter entdecken
Ähnliche Tools
Entwickler-Tools
LM Evaluation Harness
LM Evaluation Harness — EleutherAI framework for few-shot evaluation of language models across many tasks, MIT
★ 14,4 Tsd. SterneMIT
Anleitung ansehen →Entwickler-Tools
InsForge
All-in-one open-source backend for agentic coding: database, auth, storage, hosting and AI gateway.
★ 13,1 Tsd. SterneApache-2.0
Anleitung ansehen →Entwickler-Tools
mcp-unifi-applications
Query the UniFi API docs through your AI agent.
★ 39 SterneMIT
Anleitung ansehen →Entwickler-Tools
datasets
Hugging Face's library for loading and processing datasets for AI models in one line
★ 22,0 Tsd. SterneApache-2.0
Anleitung ansehen →Entwickler-Tools
ms-swift
Fine-tune and deploy 600+ LLMs and 300+ multimodal models with PEFT or full-parameter training.
★ 15,8 Tsd. SterneApache-2.0
Anleitung ansehen →// alternativen
Alternativen im Bereich Entwickler-Tools
Die anderen Projekte der Kategorie Entwickler-Tools mit den meisten Sternen im LibreAI-Katalog — die realistische Auswahl, falls Portkey AI Gateway nicht das Richtige ist.
- OpenCode★ 211,6 Tsd.
The open source coding agent
- Transformers★ 166,9 Tsd.
The model-definition framework behind modern AI — thousands of pretrained transformers for text, vision, and audio.
- claude-code★ 149,7 Tsd.
Anthropic's agentic coding tool that lives in your terminal and works across your whole codebase
- cc-switch★ 141,3 Tsd.
Cross-platform desktop all-in-one manager for Claude Code, Codex, OpenCode and other coding agents
- codex★ 128,2 Tsd.
OpenAI's lightweight coding agent that runs locally in your terminal
// mehr in devtools
Mehr in Entwickler-Tools
Verwandte Projekte der Kategorie Entwickler-Tools im Katalog, die Portkey AI Gateway bei den Sternen am nächsten stehen — zum Weiterstöbern auf beiden Seiten.
- MiMo-Code★ 13,6 Tsd.
Xiaomi's terminal-native AI coding assistant where models and agents co-evolve, with project memory.
- InsForge★ 13,1 Tsd.
All-in-one open-source backend for agentic coding: database, auth, storage, hosting and AI gateway.
- litgpt★ 13,7 Tsd.
20+ high-performance LLMs implemented from scratch, with proven recipes to pretrain, finetune and deploy.
- nofx★ 13,0 Tsd.
Your AI trading terminal assistant for US stocks, commodities, forex, and crypto.
- context-engineering-intro★ 13,9 Tsd.
Context engineering is the new vibe coding - it's the way to actually make AI coding assistants work. Claude Code is the best for this so that's what this re…
- Axolotl★ 12,7 Tsd.
Axolotl — free, open-source LLM fine-tuning framework: LoRA, QLoRA and expert-parallel training, Apache-2.0
Hol dir Portkey AI Gateway
Kostenlos und offen — hol dir den Quellcode, gib dem Repository einen Stern und leg los.