项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 812
使用教程
环境要求
- 一张能开 GitHub 的网
安装与启动步骤
-
1直接看清单
这是一个纯索引仓库,没有可执行代码,不需要装环境。
https://github.com/vince-lam/awesome-local-llms -
2按层定位
清单按模型权重、推理运行时、Agent 框架、终端应用分层。
在页面内搜索:Inference / Runtime / Agent -
3挑运行时
本地跑模型先定运行时,再挑模型,顺序反了会很痛苦。
llama.cpp / Ollama / vLLM / MLX -
4落地验证
选定后回到该项目自己的仓库按安装说明做,别停在这张清单。
ollama run qwen2.5:7b
如何确认成功
你能说出自己要用的运行时是哪一个,以及为什么。
注意事项
- 清单类仓库的价值在横向对比,别指望它给你安装步骤。
- 条目更新滞后是常态,看到心仪项目先看它的最近提交。
核心亮点
- 自动抓取并对比多个本地 LLM 项目的星标、提交、issue 等指标,节省手动调研时间
- 用 Python 实现,数据可定期更新,能反映项目活跃度的动态变化
- 聚焦本地 LLM 这一细分领域,比通用 awesome 列表更有针对性
不足之处
- 仅依赖 GitHub 指标,无法反映模型实际推理质量、易用性或硬件兼容性
- 项目尚处早期,收录的项目数量和指标维度可能有限
适用场景
- 开发者想本地部署 LLM,先看这个列表对比候选项目的社区热度
- 研究人员跟踪本地 LLM 生态,快速了解哪些项目近期活跃
- 技术选型时向团队展示各本地模型方案的流行度与维护状态
替代项目
awesome-local-ai、Awesome-LLM、ollama
上一篇:EveryonesLLM
下一篇:Mini-LLM
同类项目推荐
Awesome-Scientific-Language-Mode···
开源
一张图看懂科学大模型全家桶,快速入门科学AI
A Comprehensive Survey of Scientific Large Language Models and Their Applications in···
Ming-UniVision
开源
一个模型搞定图像理解与生成,统一分词器赋能视觉任务
Code release for Ming-UniVision: Joint Image Understanding and Geneation with a Cont···
llm.pdf
开源
打开 PDF 就能和 AI 聊天,不用装任何环境
Run LLMs inside a PDF file.
MeanFlow
开源
一步出图的生成模型 PyTorch 实现
PyTorch implementation of MeanFlow & iMF (one-step generative modeling).
DeepSeek-VL
开源
看懂图片并回答问题的开源多模态大模型
DeepSeek-VL: Towards Real-World Vision-Language Understanding
llm-resource
开源
一页看全 LLM 全栈好资源,找工具不再大海捞针
LLM全栈优质资源汇总
chatgpt-share-web
开源
一个平台还原多款AI官网,自带用户和变现系统
chatgpt、claude、midjourney,grok和gemini官网完整还原,以及Claude Code和Codex完整镜像···
Awesome-Domain-LLM
开源
一站式找到垂直领域大模型、数据集和评测基准
收集和梳理垂直领域的开源模型、数据集及评测基准。
ONE-PEACE
开源
一个模型搞定视觉、音频、语言,跨模态任务开箱即用
A general representation model across vision, audio, language modalities. Paper: ONE···
