// local-llm · Michael-A-Kuykendall/shimmy

shimmy

shimmy est un projet de LLM locaux open source, créé par Michael-A-Kuykendall (Michael-A-Kuykendall/shimmy sur GitHub). Il compte 5 914 étoiles sur GitHub et 575 forks, il est publié sous la licence Apache-2.0 et a été mis à jour pour la dernière fois sur GitHub le 30 août 2026.

⚡ Pure-Rust WebGPU inference engine — OpenAI-API compatible, GGUF native, runs on any GPU. No Python. No llama.cpp. Single binary.

★ 5,9 k étoiles⑂ 575 forksApache-2.0mis à jour août 2026

Voir sur GitHub ↗GitHub repo ↗

▦ visuel — le README de ce projet ne contient aucune capture intégrable,
voici donc un emplacement réservé. Le guide ci-dessous est complet malgré tout.

// détails du projet

Détails du projet

Dépôt: Michael-A-Kuykendall/shimmy
Étoiles GitHub: 5 914
Forks: 575
Licence: Apache-2.0
Dernière mise à jour sur GitHub: 30 août 2026
Catégorie: LLM locaux
Type de fiche: Guide d'installation complet
Site officiel: GitHub repo

// fonctionnement

Comment ça marche

Install the runtime
One binary or app gets you a working local model setup.
Download a model
Pick a size that fits your RAM/VRAM; smaller models run on laptops.
Chat or integrate
Use the built-in UI, or point OpenAI-compatible clients at it.
Go private
Airplane mode works — your prompts never leave the device.

// fonctionnalités

Pourquoi on l'adore

Offline capable

Works on planes, in basements, behind firewalls.

Model choice

Swap between hundreds of open models freely.

OpenAI-compatible APIs

Existing tools plug in by changing one URL.

Document chat

Ask questions over your PDFs, notes, and codebases.

No subscriptions

Pay nothing per token, ever.

100% private

Prompts and documents stay on your hardware, always.

// lancez-le

Lancez-le vous-même

Step 1 — Clone the repo
Download the source and move into the project folder.
```
git clone https://github.com/Michael-A-Kuykendall/shimmy.git
cd shimmy
```
Step 2 — Check the README
Every project documents its own setup; start with install requirements.
```
cat README.md | head -60
```
Step 3 — Run it
Follow the project's launch command — Docker, pip, npm, or a binary release.
```
# see README for the exact launch command
```

// cas d'usage

Ce que vous pouvez créer

Chat privately with your documents.
Draft and edit without cloud AI.
Run AI on air-gapped machines.
Prototype AI features for free.

// faq

Questions fréquentes

Who maintains shimmy?

It is an open-source project at Michael-A-Kuykendall/shimmy with 575 forks. Check the repo's contributors and recent commits to see how active maintenance is.

Is shimmy free for commercial use?

Apache 2.0 licensed — commercial use allowed with attribution.

Which model should I start with?

A recent 8–32B instruct model is the sweet spot for most machines.

Is it really private?

Yes — with no network calls, there's nothing to leak.

Are local models as good as GPT-4?

Les autres projets de la catégorie LLM locaux avec le plus d'étoiles du catalogue LibreAI — la sélection réaliste d'alternatives si shimmy ne vous convient pas.

Ollama★ 182,1 k
The simplest way to run open language models on your own machine.
Open Webui★ 153,9 k
User-friendly AI Interface (Supports Ollama, OpenAI API, ...)
llama.cpp★ 130,2 k
LLM inference in C/C++
vLLM★ 93,1 k
A high-throughput and memory-efficient inference and serving engine for LLMs
lobehub★ 83,0 k
🤯 LobeHub is your Chief Agent Operator, organizing your agents into 7×24 operations by hiring, scheduling, and reporting on your entire AI team.

// plus en local-llm

Plus en LLM locaux

Projets de la catégorie LLM locaux proches dans le catalogue, les plus proches en étoiles de shimmy — continuez à explorer de part et d'autre.

Cactus★ 6,1 k
Quantization, kernels, runtime and inference engine for mobiles, wearables, smart home and robots
lemonade★ 5,8 k
Discover and run local AI apps, serving optimized LLMs from your own GPU and NPU.
DeepSeek-Coder-V2★ 7,0 k
DeepSeek-Coder-V2 — DeepSeek's open code model family that challenged closed-source code models.
gemma★ 5,8 k
Google DeepMind's Gemma open-weight LLM library — install, load and chat with Gemma models in Python.
vllm-omni★ 7,1 k
vLLM-Omni — efficient inference for omni-modality models: image, audio, video, diffusion and policies.
DeskcommCRM★ 4,4 k
Open-source AI sales OS — self-hosted CRM with native AI agents + WhatsApp (WAHA). Open alternative to Kommo, Octadesk & Intercom for any business that sells…

Obtenir shimmy

Gratuit et ouvert : récupérez le code source, mettez une étoile au dépôt et commencez à créer.

Voir sur GitHub ↗← Plus d'outils LLM locaux