LibreAI / ローカルLLM / Kimi K3 in C
// local-llm · FareedKhan-dev/kimi-k3-in-c

Kimi K3 in C

Kimi K3 in Cは、FareedKhan-devが公開しているオープンソースのローカルLLMプロジェクトです(GitHub: FareedKhan-dev/kimi-k3-in-c)。GitHubスターは12,114、フォークは1,873で、Apache-2.0ライセンスの下で公開されています。GitHubでの最終更新は2026年10月2日です。

Kimi K3, 2.78 trillion parameters, running on one CPU in 8 GB of RAM — portable C99, no GPU

★ 12.1k スター⑂ 1.9k フォークApache-2.0更新 2026年10月
▦ ビジュアル — このプロジェクトのREADMEには埋め込み可能なスクリーンショットがないため、
ここではプレースホルダーを表示しています。下のガイド自体は完全な内容です。
// プロジェクトの基本情報

プロジェクト基本情報

GitHubスター
12,114
フォーク
1,873
ライセンス
Apache-2.0
GitHubでの最終更新
2026年10月2日
カテゴリ
ローカルLLM
掲載タイプ
完全なインストールガイド
公式サイト
Build story on Medium
// 仕組み

仕組み

  1. Clone and build

    Seven C files, a compiler and OpenMP — the build takes seconds.

  2. Check the machine

    Run the doctor script to size RAM to a preset and measure storage.

  3. Verify before downloading

    Run the test suite first — it needs nothing but the repository.

  4. Fetch the checkpoint

    Only then commit to the 1.56 TB download, pack the trunk, and run.

// 機能

選ばれる理由

2.78T parameters, 8 GB of RAM

The full Kimi K3 model on one CPU, streaming weights from disk.

Portable C99

No GPU, no BLAS, no ML framework — Linux, macOS/arm64 and Windows all build.

A doctor script

Checks the toolchain, sizes RAM to a preset, measures storage, prints the next command.

Verified before the download

The test suite proves the engine matches its reference with no checkpoint at all.

Memory as a dial

Presets from laptop (8 GB) to server pin more trunk layers as RAM grows.

Reproducible runs

Ids in, ids out, no tokenizer, JSON results — plus cache traces to replay offline.

// 自分で実行

自分で実行してみる

  1. Step 1 — Clone the repo

    Download the source and move into the folder.

    git clone https://github.com/FareedKhan-dev/kimi-k3-in-c.git
    cd kimi-k3-in-c
  2. Step 2 — Build it

    Compile the engine — seconds, seven C files.

    make -j
  3. Step 3 — Test it

    Run the test suite before downloading anything.

    make test
// 活用例

作れるもの

  • Prove a 2.78T model fits on consumer hardware at all.
  • Run Kimi K3 on a CPU-only machine with no GPU.
  • Study how a giant MoE model streams experts from disk.
  • Reproduce exact runs with ids in, ids out and JSON results.

Close neighbours on the Local LLM shelf: colibri — Tiny C engine that runs huge MoE models on the, and llama.cpp — LLM inference in C/C++. The full shelf is the Local LLM tools in the catalogue. Before running a model locally, check how much VRAM you need for local LLMs — model size has to match your hardware.

// よくある質問

よくある質問

What is Kimi K3 in C?

A portable C99 engine that runs Moonshot AI’s 2.78-trillion-parameter Kimi K3 on one CPU in as little as 8 GB of RAM.

How fast is it?

About 26.5 seconds per token at 8 GB, about 5.6 seconds per token at 128 GB or more — a proof of fit, not a chat setup.

What do I need?

A CPU with AVX2 + FMA (or NEON on arm64), 8 GB of RAM, and ~1.7 TB free for the 1.56 TB checkpoint.

Do I need a GPU?

No — no GPU, no BLAS and no ML framework. That is the whole point.

Is it free?

Yes, Apache-2.0 licensed. The Kimi K3 checkpoint itself is Moonshot AI’s open-weight release.

// さらに探索

似ているツール

ローカルLLM

colibri

Tiny C engine that runs huge MoE models on the machine you already own — GLM, Kimi K3, DeepSeek, Qwen, Apache-2.0

★ 49.3k スターApache-2.0
ガイドを見る →
ローカルLLM

llama.cpp

LLM inference in C/C++

★ 130.2k スターMIT
ガイドを見る →
ローカルLLM

GPT4All

GPT4All — run local LLMs on any device: a free desktop chat client and Python SDK that run open models entirely on your CPU, no GPU or cloud required

★ 77.4k スターMIT
ガイドを見る →
ローカルLLM

Soup

Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.

★ 8.1k スターApache-2.0
ガイドを見る →
ローカルLLM

lemonai

Self-evolving general AI agent running fully locally, a Manus-style alternative.

★ 1.6k スターCustom
ガイドを見る →
ローカルLLM

sre

Cloud-native runtime for building and running agentic AI in production.

★ 1.3k スターMIT
ガイドを見る →
// 代替候補

代替候補: ローカルLLM

LibreAIカタログに掲載されたローカルLLMプロジェクトの中で最もスターの多いもの — Kimi K3 in Cが合わなかった場合に検討したい、現実的な候補リストです。

  • Ollama★ 182.1k

    The simplest way to run open language models on your own machine.

  • Open Webui★ 153.9k

    User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

  • llama.cpp★ 130.2k

    LLM inference in C/C++

  • vLLM★ 93.1k

    A high-throughput and memory-efficient inference and serving engine for LLMs

  • lobehub★ 83.0k

    🤯 LobeHub is your Chief Agent Operator, organizing your agents into 7×24 operations by hiring, scheduling, and reporting on your entire AI team.

// さらに見る local-llm

さらに見る: ローカルLLM

カタログの中でKimi K3 in Cとスター数が近いローカルLLMプロジェクト — 前後の棚もそのまま見て回れます。

  • assistant-ui★ 12.4k

    Typescript/React Library for AI Chat 💬🚀

  • Koboldcpp★ 11.9k

    KoboldCpp - Run GGUF AI models locally with a KoboldAI UI. One File. Zero Install

  • llm★ 12.6k

    Access large language models from the command-line

  • Soup★ 8.1k

    Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.

  • ChatGLM2-6B★ 15.5k

    Open bilingual (Chinese-English) 6B chat LLM with 32K-context variant and low-memory INT4 inference.

  • vllm-omni★ 7.1k

    vLLM-Omni — efficient inference for omni-modality models: image, audio, video, diffusion and policies.

Kimi K3 in Cを入手する

無料でオープン — ソースコードを入手して、リポジトリにスターを付け、作り始めましょう。