项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 297
核心亮点
- 参数量控制在100-200M，单卡或少量GPU即可完成训练与推理实验
- 以复刻主流开源架构为目标，代码结构贴近真实大模型实现，适合学习
- 提供从数据准备到训练、推理的完整流程，便于端到端验证想法
不足之处
- 项目处于早期，星标约292，社区生态和文档完善度有限
- 模型规模小，实际生成质量与主流大模型差距明显，不适合生产使用
适用场景
- 个人学习Transformer架构并动手训练小型语言模型
- 高校课程或实验室中演示大模型预训练与推理全流程
- 研究者快速验证架构改动或训练策略的低成本实验平台
替代项目
nanoGPT、minGPT
下一篇：alpamayo
同类项目推荐
HRM-Text
开源
1B小模型也能做复杂推理，任务完成更靠谱
HRM-Text is a 1B text generation model based on the HRM architecture, strengthened b···
Ovis
开源
让视觉与语言无缝对齐，构建更强多模态大模型。
A novel Multimodal Large Language Model (MLLM) architecture, designed to structurall···
IvyGPT
开源
让AI看病像医生一样，边问边推理，给出透明诊断路径
[CICAI 2023] The official codes for "Ivygpt: Interactive chinese pathway language mo···
awesome-LLM-resources
开源
一份清单，搞定LLM学习与实战资源导航
全世界最好的LLM资料总结（多模态生成、Agent、辅助编程、AI审稿、数据处理、模型训练、···
Awesome-LLM-Papers-Comprehensive···
开源
一站式找全LLM论文与代码，省去全网搜刮时间
Awesome LLM Papers and repos on very comprehensive topics.
x1
开源
照着蓝图，快速搭建你的推理语言模型
Official Implementation of "Reasoning Language Models: A Blueprint"
Awesome-LLM4Graph-Papers
开源
一页览尽 LLM 与图数据交叉研究，快速定位关键论文
[KDD'2024] "LLM4Graph: A Survey of Large Language Models for Graphs"
amazon-bedrock-samples
开源
官方示例，快速上手 Bedrock 全家桶
This repository contains examples for customers to get started using the Amazon Bedr···
MiniMax-01
开源
线性注意力大模型，超长上下文轻松跑
The official repo of MiniMax-Text-01 and MiniMax-VL-01, large-language-model & visio···