// local-llm · FareedKhan-dev/kimi-k3-in-c

Kimi K3 in C

Kimi K3 in C — проект с открытым исходным кодом из категории «Локальные LLM» от FareedKhan-dev (FareedKhan-dev/kimi-k3-in-c на GitHub). У него 12 114 звёзд на GitHub и 1 873 форка, он распространяется по лицензии Apache-2.0 и последний раз обновлялся на GitHub 2 октября 2026.

Kimi K3, 2.78 trillion parameters, running on one CPU in 8 GB of RAM — portable C99, no GPU

★ 12,1 тыс. звёзд⑂ 1,9 тыс. форковApache-2.0обновлено окт. 2026
▦ визуал — в README этого проекта нет встраиваемого скриншота,
поэтому здесь заглушка. Руководство ниже в любом случае полное.
// факты о проекте

Факты о проекте

Репозиторий
FareedKhan-dev/kimi-k3-in-c
Звёзды GitHub
12 114
Форки
1 873
Лицензия
Apache-2.0
Последнее обновление на GitHub
2 октября 2026
Категория
Локальные LLM
Тип страницы
Полное руководство по установке
Официальный сайт
Build story on Medium
// как это работает

Как это работает

  1. Clone and build

    Seven C files, a compiler and OpenMP — the build takes seconds.

  2. Check the machine

    Run the doctor script to size RAM to a preset and measure storage.

  3. Verify before downloading

    Run the test suite first — it needs nothing but the repository.

  4. Fetch the checkpoint

    Only then commit to the 1.56 TB download, pack the trunk, and run.

// возможности

Почему его любят

2.78T parameters, 8 GB of RAM

The full Kimi K3 model on one CPU, streaming weights from disk.

Portable C99

No GPU, no BLAS, no ML framework — Linux, macOS/arm64 and Windows all build.

A doctor script

Checks the toolchain, sizes RAM to a preset, measures storage, prints the next command.

Verified before the download

The test suite proves the engine matches its reference with no checkpoint at all.

Memory as a dial

Presets from laptop (8 GB) to server pin more trunk layers as RAM grows.

Reproducible runs

Ids in, ids out, no tokenizer, JSON results — plus cache traces to replay offline.

// запустите сами

Запустите сами

  1. Step 1 — Clone the repo

    Download the source and move into the folder.

    git clone https://github.com/FareedKhan-dev/kimi-k3-in-c.git
    cd kimi-k3-in-c
  2. Step 2 — Build it

    Compile the engine — seconds, seven C files.

    make -j
  3. Step 3 — Test it

    Run the test suite before downloading anything.

    make test
// сценарии использования

Что можно создать

  • Prove a 2.78T model fits on consumer hardware at all.
  • Run Kimi K3 on a CPU-only machine with no GPU.
  • Study how a giant MoE model streams experts from disk.
  • Reproduce exact runs with ids in, ids out and JSON results.

Close neighbours on the Local LLM shelf: colibri — Tiny C engine that runs huge MoE models on the, and llama.cpp — LLM inference in C/C++. The full shelf is the Local LLM tools in the catalogue. Before running a model locally, check how much VRAM you need for local LLMs — model size has to match your hardware.

// вопросы и ответы

Вопросы и ответы

What is Kimi K3 in C?

A portable C99 engine that runs Moonshot AI’s 2.78-trillion-parameter Kimi K3 on one CPU in as little as 8 GB of RAM.

How fast is it?

About 26.5 seconds per token at 8 GB, about 5.6 seconds per token at 128 GB or more — a proof of fit, not a chat setup.

What do I need?

A CPU with AVX2 + FMA (or NEON on arm64), 8 GB of RAM, and ~1.7 TB free for the 1.56 TB checkpoint.

Do I need a GPU?

No — no GPU, no BLAS and no ML framework. That is the whole point.

Is it free?

Yes, Apache-2.0 licensed. The Kimi K3 checkpoint itself is Moonshot AI’s open-weight release.

// продолжить изучение

Похожие инструменты

Локальные LLM

colibri

Tiny C engine that runs huge MoE models on the machine you already own — GLM, Kimi K3, DeepSeek, Qwen, Apache-2.0

★ 49,3 тыс. звёздApache-2.0
Смотреть руководство →
Локальные LLM

llama.cpp

LLM inference in C/C++

★ 130,2 тыс. звёздMIT
Смотреть руководство →
Локальные LLM

GPT4All

GPT4All — run local LLMs on any device: a free desktop chat client and Python SDK that run open models entirely on your CPU, no GPU or cloud required

★ 77,4 тыс. звёздMIT
Смотреть руководство →
Локальные LLM

Soup

Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.

★ 8,1 тыс. звёздApache-2.0
Смотреть руководство →
Локальные LLM

lemonai

Self-evolving general AI agent running fully locally, a Manus-style alternative.

★ 1,6 тыс. звёздCustom
Смотреть руководство →
Локальные LLM

sre

Cloud-native runtime for building and running agentic AI in production.

★ 1,3 тыс. звёздMIT
Смотреть руководство →
// альтернативы

Альтернативы: Локальные LLM

Другие проекты из категории «Локальные LLM» с наибольшим числом звёзд в каталоге LibreAI — реалистичный список альтернатив, если Kimi K3 in C вам не подходит.

  • Ollama★ 182,1 тыс.

    The simplest way to run open language models on your own machine.

  • Open Webui★ 153,9 тыс.

    User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

  • llama.cpp★ 130,2 тыс.

    LLM inference in C/C++

  • vLLM★ 93,1 тыс.

    A high-throughput and memory-efficient inference and serving engine for LLMs

  • lobehub★ 83,0 тыс.

    🤯 LobeHub is your Chief Agent Operator, organizing your agents into 7×24 operations by hiring, scheduling, and reporting on your entire AI team.

// ещё в категории local-llm

Больше проектов: Локальные LLM

Соседние проекты из категории «Локальные LLM» в каталоге, ближайшие по числу звёзд к Kimi K3 in C — продолжайте изучать полку по обе стороны от него.

  • assistant-ui★ 12,4 тыс.

    Typescript/React Library for AI Chat 💬🚀

  • Koboldcpp★ 11,9 тыс.

    KoboldCpp - Run GGUF AI models locally with a KoboldAI UI. One File. Zero Install

  • llm★ 12,6 тыс.

    Access large language models from the command-line

  • Soup★ 8,1 тыс.

    Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.

  • ChatGLM2-6B★ 15,5 тыс.

    Open bilingual (Chinese-English) 6B chat LLM with 32K-context variant and low-memory INT4 inference.

  • vllm-omni★ 7,1 тыс.

    vLLM-Omni — efficient inference for omni-modality models: image, audio, video, diffusion and policies.

Получить Kimi K3 in C

Бесплатно и открыто — забирайте исходный код, ставьте звезду репозиторию и начинайте создавать.