Entwickler-Tools
lazycodex
The agent harness for complex codebases inside Codex — project memory, planning and verified completion.
★ 3,7 Tsd. SterneMIT
Anleitung ansehen →LibreAI / Entwickler-Tools / FlashAttention
// devtools · Dao-AILab/flash-attention
FlashAttention
FlashAttention ist ein Open-Source-Projekt aus der Kategorie Entwickler-Tools von Dao-AILab (Dao-AILab/flash-attention auf GitHub). Es hat 25.236 Sterne auf GitHub und 3.201 Forks, wird unter der Lizenz BSD-3-Clause veröffentlicht und wurde zuletzt am 2. November 2026 auf GitHub aktualisiert.
FlashAttention — fast, memory-efficient exact attention that lets transformers handle long sequences, BSD-3-Clause
★ 25,2 Tsd. Sterne⑂ 3,2 Tsd. ForksBSD-3-Clauseaktualisiert Nov 2026
▦ Visual — das README dieses Projekts enthält keinen einbettbaren Screenshot,
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
// projektdaten
Projektdaten
- Repository
- Dao-AILab/flash-attention
- GitHub-Sterne
- 25.236
- Forks
- 3.201
- Lizenz
- BSD-3-Clause
- Zuletzt auf GitHub aktualisiert
- 2. November 2026
- Kategorie
- Entwickler-Tools
- Eintragstyp
- Vollständige Installationsanleitung
// so funktioniert es
So funktioniert es
- Install the prebuilt package
Install flash-attn-4 from PyPI, or the CUDA 13 variant if that matches your toolkit.
- Import the attention interface
Use the flash-attn-3 interface from your model code where the library is integrated.
- Or build from source
For configurations without a matching wheel, build from source with ninja installed and build isolation disabled.
// funktionen
Warum es so beliebt ist
Exact attention, not an approximation
The same attention maths as standard transformers — faster and leaner, without changing results.
Memory-efficient long sequences
Avoiding the full attention matrix is what lets models handle long contexts on the same hardware.
Hardware-tuned kernels
CUDA kernels for NVIDIA GPUs, with a Triton path documented for AMD GPUs.
The standard attention backend
Integrated across the model ecosystem — the attention implementation behind much of modern LLM training and inference.
Advertisement
// selbst ausführen
Führe es selbst aus
- Install the current line
The README install route for flash-attn-4.
pip install flash-attn-4 - CUDA 13 variant
The README variant for CUDA 13 toolkits.
pip install "flash-attn-4[cu13]" - Build from source
The README source-build route for setups without a matching wheel.
pip install flash-attn --no-build-isolation
// anwendungsfälle
Was du damit bauen kannst
- Speeding up transformer training and inference with exact attention
- Running long-context models without exhausting GPU memory
- Building model code on hardware-tuned attention kernels
- Studying attention optimisation — tiling, recomputation and kernel design
Advertisement
// häufige fragen
Häufige Fragen
Who makes FlashAttention?
The Dao-AILab team, as the exact-attention kernel library.
Is FlashAttention free?
Yes — BSD-3-Clause licensed.
Does it change model outputs?
No — it computes exact attention, the same maths as standard attention, just faster and with less memory.
Do I need to build it from source?
Usually not — prebuilt flash-attn-4 wheels cover common setups; source builds with ninja are for configurations the wheels do not cover.
How do I get started?
pip install flash-attn-4 (or the CUDA 13 variant), then use it through a framework that integrates it.
// weiter entdecken
Ähnliche Tools
Entwickler-Tools
Transformers
The model-definition framework behind modern AI — thousands of pretrained transformers for text, vision, and audio.
★ 166,9 Tsd. SterneApache-2.0
Anleitung ansehen →Entwickler-Tools
peft
Fine-tune huge models on small hardware with LoRA and other efficient methods
★ 21,8 Tsd. SterneApache-2.0
Anleitung ansehen →Entwickler-Tools
mirage
A virtual terminal and filesystem that lets AI agents work across S3, Drive, Slack, Gmail and more.
★ 3,7 Tsd. SterneApache-2.0
Anleitung ansehen →Entwickler-Tools
kody
A portable home for your AI agent — memory, keys and automations on Cloudflare.
★ 731 SterneCustom
Anleitung ansehen →Entwickler-Tools
cavemem
Persistent memory for coding agents — frozen, but its core lives on in Caveman.
★ 678 SterneMIT
Anleitung ansehen →// alternativen
Alternativen im Bereich Entwickler-Tools
Die anderen Projekte der Kategorie Entwickler-Tools mit den meisten Sternen im LibreAI-Katalog — die realistische Auswahl, falls FlashAttention nicht das Richtige ist.
- OpenCode★ 211,6 Tsd.
The open source coding agent
- Transformers★ 166,9 Tsd.
The model-definition framework behind modern AI — thousands of pretrained transformers for text, vision, and audio.
- claude-code★ 149,7 Tsd.
Anthropic's agentic coding tool that lives in your terminal and works across your whole codebase
- cc-switch★ 141,3 Tsd.
Cross-platform desktop all-in-one manager for Claude Code, Codex, OpenCode and other coding agents
- codex★ 128,2 Tsd.
OpenAI's lightweight coding agent that runs locally in your terminal
// mehr in devtools
Mehr in Entwickler-Tools
Verwandte Projekte der Kategorie Entwickler-Tools im Katalog, die FlashAttention bei den Sternen am nächsten stehen — zum Weiterstöbern auf beiden Seiten.
- toon★ 25,5 Tsd.
TOON: a compact, human-readable serialization of JSON that saves tokens in LLM prompts
- dbx★ 25,2 Tsd.
A 25MB database client for 100+ databases — with a built-in AI assistant, MCP server and CLI
- context-mode★ 25,7 Tsd.
Context optimization for coding agents: sandbox tool output, keep sessions lean, remember more
- opcode★ 22,4 Tsd.
A desktop GUI and toolkit for Claude Code - agents, sessions, analytics and MCP
- ai★ 27,2 Tsd.
Vercel's AI SDK: the TypeScript toolkit for building AI apps and agents with any model provider
- datasets★ 22,0 Tsd.
Hugging Face's library for loading and processing datasets for AI models in one line
Hol dir FlashAttention
Kostenlos und offen — hol dir den Quellcode, gib dem Repository einen Stern und leg los.