aarambh-studio

纯 Rust 从零打造 LLM，不碰 Python 也能训大模型

aarambh-studio 是一个完全用 Rust 和 Candle 框架从零构建的 decoder-only 大语言模型项目，不依赖 Python 或 PyTorch。它旨在解决传统 LLM 训练和推理中依赖重型 Python 生态、部署复杂的问题，提供从 25M 到 1.3B 参数的多种规模模型。核心能力包括：采用 Gated DeltaNet 和稀疏注意力机制提升长序列处理效率，集成细粒度 MoE（混合专家）以增强模型容量，原生支持视频和文档理解，具备长周期工具智能体能力，并支持量化感知训练和 GGUF 格式导出。项目还结合了 GRPO 和 LoRA 等微调技术，适合在资源受限环境进行高效训练和推理，强调极简依赖和跨平台部署。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 109

维护状态较活跃

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队AarambhDevHub

所属国家

官网地址

GitHubhttps://github.com/AarambhDevHub/aarambh-studio

定价模式free

价格说明开源免费，无在线服务，需自行部署

访问状态

是否开源是

开源协议Apache-2.0

主要语言Rust

技术栈/模型ai-agents,candle,decoder-only,deep-learning,dora,from-scratch,gguf,grpo,large-language-model,llm,lora,machine-learning,mixture-of-experts,multimodal-llm,quantization,quantization-aware-training,rust,self-learning,sparse-attention,thinking-llm

GitHub 星标★ 109

30天Star增速

HF 下载量

上线时间2026-06-24 00:00:00

最近更新2026-09-16 00:00:00

维护状态较活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-09-08

浏览次数2

使用教程

核心亮点

完全摆脱 Python/PyTorch 依赖，用 Rust 和 Candle 实现，部署和运行环境极简，适合嵌入式或边缘设备。
内置 Gated DeltaNet 和稀疏注意力，长序列处理效率高，内存占用更可控。
从 25M 到 1.3B 多档规模可选，配合量化感知训练和 GGUF 导出，灵活适配不同算力场景。

不足之处

项目处于早期阶段（101 星），文档和社区支持尚不完善，上手需要较强的 Rust 和 ML 基础。
生态和预训练模型资源远少于 PyTorch 系项目，工具链和第三方集成有限。

适用场景

在无 Python 环境的嵌入式或边缘设备上运行轻量级 LLM 推理。
作为教学或研究用途，深入理解 LLM 内部结构和 Rust 实现。
需要同时处理文本、视频和文档的多模态智能体开发。

替代项目

Candle (Rust ML 框架)、llama.cpp (C++ LLM 推理)、mistral.rs (Rust LLM 推理引擎)

项目介绍

aarambh-studio 是一个开源模型领域的开源项目，官方简介：Decoder-only LLM built from scratch in pure Rust using Candle — no Python, no PyTorch. Gated DeltaNet + sparse attention, fine-grained MoE, native video/document understanding, long-horizon tool agents, quantization-aware training. Scales: Tiny (25M) to Large (1.3B).。项目使用 Rust 开发，在 GitHub 上获得 101 星标。

上一篇：AnyGPT

下一篇：Qwen3.8