lyogavin/airllm

它是什么

单张 4GB 显卡推理 70B 模型的经典方案，本期重回月榜。

AirLLM 70B inference with single 4GB GPU

数据快照

为什么本期进榜

本期同时进入 2 张榜单：GitHub 月度趋势榜、星标增速榜。

• GitHub 月度趋势榜 第 19 名。
• 星标增速榜 第 33 名。

本月净增 8,654 星，占全站 167 个项目月度净增总量（482,983）的 1.8%。

技术要点

• chinese-llm
• chinese-nlp
• finetune
• generative-ai
• instruct-gpt
• instruction-set
• llama
• llm — 大模型
• 归类：模型推理与服务（model-serving）

生态位

全站并集 167 个项目中，本项目综合分排在第 31 位（百分位 81.9%）。

四张榜单的规模分别为：L1 50 条、L2 50 条、L3 50 条、L4 50 条；L1 与 L3 的交集 33 条，说明「绝对增量大」与「相对增速快」在本期高度重合。

同生态相关项目：ggml-org/llama.cpp、unsloth/Qwen3.8-27B-GGUF、unsloth/Qwen3.8-Flash-Next-GGUF

值得警惕的地方

• 本期未见明显异常信号：星标、分叉与更新节奏处在常规区间。

怎么用起来

• 仓库：https://github.com/lyogavin/airllm
• 建议先读 README 的最小可运行示例，再评估是否接入生产链路。

口径说明：GitHub 项目以累计星标与月度净增为准；HuggingFace 条目以平台 trendingScore 为准，换算系数 ×25 仅用于统一排序与绘图。快照日 2026-08-26。