// devtools · axolotl-ai-cloud/axolotl

Axolotl

Axolotl ist ein Open-Source-Projekt aus der Kategorie Entwickler-Tools von axolotl-ai-cloud (axolotl-ai-cloud/axolotl auf GitHub). Es hat 12.656 Sterne auf GitHub und 1.469 Forks, wird unter der Lizenz Apache-2.0 veröffentlicht und wurde zuletzt am 2. November 2026 auf GitHub aktualisiert.

Axolotl — free, open-source LLM fine-tuning framework: LoRA, QLoRA and expert-parallel training, Apache-2.0

★ 12,7 Tsd. Sterne⑂ 1,5 Tsd. ForksApache-2.0aktualisiert Nov 2026

Auf GitHub ansehen ↗Documentation ↗

▦ Visual — das README dieses Projekts enthält keinen einbettbaren Screenshot,
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.

// projektdaten

Projektdaten

Repository: axolotl-ai-cloud/axolotl
GitHub-Sterne: 12.656
Forks: 1.469
Lizenz: Apache-2.0
Zuletzt auf GitHub aktualisiert: 2. November 2026
Kategorie: Entwickler-Tools
Eintragstyp: Vollständige Installationsanleitung
Offizielle Website: Documentation

// so funktioniert es

So funktioniert es

Create a Python 3.12 environment with uv
Use uv to create the virtual environment for the install.
Install Torch and Axolotl
Install Torch and torchvision, then Axolotl with the DeepSpeed extra and no build isolation, as documented.
Configure and launch a fine-tune
Write a training config for your model and dataset (LoRA, QLoRA or expert-parallel as needed) and launch training from the docs.

// funktionen

Warum es so beliebt ist

Config-driven fine-tuning

LoRA, QLoRA, full and expert-parallel training driven by configs, not by forking trainer code.

Current-model support

Documented support for current large models, including Mistral Large 4 and Beam with QLoRA and NVFP4 LoRA configs.

Quantised and expert training

NVFP4 LoRA, MixLoRA routed experts, and CPU-staged FSDP2 QLoRA loading for oversized models.

uv-first install and Docker route

A modern uv-based install, plus a GPU Docker image for machines that want zero install friction.

// selbst ausführen

Führe es selbst aus

Create the environment
The README install route: a Python 3.12 venv with uv.
```
uv venv --python 3.12
```
Install Torch and Axolotl
The README install route: Torch, then Axolotl with the DeepSpeed extra.
```
uv pip install torch==2.14.0 torchvision
uv pip install --no-build-isolation axolotl[deepspeed]
```

Run the Docker image

The README container route for GPU machines.

docker run --gpus "all" --ipc=host --rm -it axolotlai/axolotl:main-latest

// anwendungsfälle

Was du damit bauen kannst

Fine-tuning open LLMs with LoRA or QLoRA on your own data
Training mixture-of-experts models with expert parallelism
Quantised NVFP4 fine-tuning of very large models
Building reproducible fine-tuning pipelines from configs

// häufige fragen

Häufige Fragen

Who makes Axolotl?

The axolotl-ai-cloud team, as a free open-source fine-tuning framework.

Is Axolotl free?

Yes — Apache-2.0 licensed.

Do I need a GPU?

Yes for real training — fine-tuning needs GPU hardware; the Docker route assumes a GPU machine.

What is the difference from TRL?

TRL is Hugging Face post-training trainers (SFT, GRPO, DPO); Axolotl is a config-driven fine-tuning framework with its own trainer stack, including expert-parallel and NVFP4 paths.

How do I get started?

Create a Python 3.12 venv with uv, install Torch and axolotl[deepspeed], and follow the docs for your first config.

// weiter entdecken

Alternativen im Bereich Entwickler-Tools

Die anderen Projekte der Kategorie Entwickler-Tools mit den meisten Sternen im LibreAI-Katalog — die realistische Auswahl, falls Axolotl nicht das Richtige ist.

OpenCode★ 211,6 Tsd.
The open source coding agent
Transformers★ 166,9 Tsd.
The model-definition framework behind modern AI — thousands of pretrained transformers for text, vision, and audio.
claude-code★ 149,7 Tsd.
Anthropic's agentic coding tool that lives in your terminal and works across your whole codebase
cc-switch★ 141,3 Tsd.
Cross-platform desktop all-in-one manager for Claude Code, Codex, OpenCode and other coding agents
codex★ 128,2 Tsd.
OpenAI's lightweight coding agent that runs locally in your terminal

// mehr in devtools

Mehr in Entwickler-Tools

Verwandte Projekte der Kategorie Entwickler-Tools im Katalog, die Axolotl bei den Sternen am nächsten stehen — zum Weiterstöbern auf beiden Seiten.

nofx★ 13,0 Tsd.
Your AI trading terminal assistant for US stocks, commodities, forex, and crypto.
claude-context★ 12,6 Tsd.
Code-search MCP for Claude Code: make your entire codebase the context for any coding agent.
InsForge★ 13,1 Tsd.
All-in-one open-source backend for agentic coding: database, auth, storage, hosting and AI gateway.
fastapi_mcp★ 12,0 Tsd.
Expose your FastAPI endpoints as Model Context Protocol tools - with authentication - in a few lines of code.
Portkey AI Gateway★ 13,3 Tsd.
Portkey AI Gateway — route to 1,600+ AI models through one fast API, with fallbacks and guardrails, MIT
artemis★ 10,9 Tsd.
ARTEMIS turns natural-language instructions into reliable Android automation. It automates end-to-end workflows, captures logs, and integrates seamlessly wit…

Hol dir Axolotl

Kostenlos und offen — hol dir den Quellcode, gib dem Repository einen Stern und leg los.

Auf GitHub ansehen ↗← Mehr Tools: Entwickler-Tools