aarambh-studio

纯 Rust 从零打造 LLM，不碰 Python 也能训大模型

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 开源模型 🍴 复刻 35 👀 关注 2
GitHub ↗
GitHub 星标 ★ 112
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源免费，无在线服务，需自行部署

项目预览

aarambh-studio 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类开源模型
开发团队AarambhDevHub
GitHubhttps://github.com/AarambhDevHub/aarambh-studio
定价模式🏷️完全免费
价格说明开源免费，无在线服务，需自行部署
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Rust
技术栈/模型ai-agents,candle,decoder-only,deep-learning,dora,from-scratch,gguf,grpo,large-language-model,llm,lora,machine-learning,mixture-of-experts,multimodal-llm,quantization,quantization-aware-training,rust,self-learning,sparse-attention,thinking-llm
GitHub 星标★ 112
上线时间2026-06-24 00:00:00
代码更新2026-08-21
仓库体积1.9 MB
本站数据更新2026-11-04
维护状态维护中
收录时间2026-09-08
浏览次数5

项目介绍

aarambh-studio 是一个完全用 Rust 和 Candle 框架从零构建的 decoder-only 大语言模型项目，不依赖 Python 或 PyTorch。它旨在解决传统 LLM 训练和推理中依赖重型 Python 生态、部署复杂的问题，提供从 25M 到 1.3B 参数的多种规模模型。核心能力包括：采用 Gated DeltaNet 和稀疏注意力机制提升长序列处理效率，集成细粒度 MoE（混合专家）以增强模型容量，原生支持视频和文档理解，具备长周期工具智能体能力，并支持量化感知训练和 GGUF 格式导出。项目还结合了 GRPO 和 LoRA 等微调技术，适合在资源受限环境进行高效训练和推理，强调极简依赖和跨平台部署。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-08 · 当前星标 ★ 112

核心亮点

  • 完全摆脱 Python/PyTorch 依赖，用 Rust 和 Candle 实现，部署和运行环境极简，适合嵌入式或边缘设备。
  • 内置 Gated DeltaNet 和稀疏注意力，长序列处理效率高，内存占用更可控。
  • 从 25M 到 1.3B 多档规模可选，配合量化感知训练和 GGUF 导出，灵活适配不同算力场景。

不足之处

  • 项目处于早期阶段（101 星），文档和社区支持尚不完善，上手需要较强的 Rust 和 ML 基础。
  • 生态和预训练模型资源远少于 PyTorch 系项目，工具链和第三方集成有限。

适用场景

  • 在无 Python 环境的嵌入式或边缘设备上运行轻量级 LLM 推理。
  • 作为教学或研究用途，深入理解 LLM 内部结构和 Rust 实现。
  • 需要同时处理文本、视频和文档的多模态智能体开发。

替代项目

Candle (Rust ML 框架)、llama.cpp (C++ LLM 推理)、mistral.rs (Rust LLM 推理引擎)

上一篇：AnyGPT

下一篇：Qwen3.8

同类项目推荐

GraphCLIP 开源

让图模型像CLIP一样能迁移，文本图任务零样本也能用

Official implementation of GraphCLIP: Enhancing Transferability in Graph Foundation ···

★ 81 2026-08-09
free-ai-resources-x 开源

一站式免费AI资源导航，快速找到好工具

A curated collection of free, high quality AI tools , APIs , datasets , and learning···

★ 984 2026-08-09
Ovis-Image 开源

轻量级7B模型，让AI生成图片里的文字清晰准确

Ovis-Image is a 7B text-to-image model specifically optimized for high-quality text ···

★ 318 2026-08-09
MGM-Omni 开源

让语音大模型记住你的声音，长对话也能个性化陪伴

MGM-Omni: Scaling Omni LLMs to Personalized Long-Horizon Speech

★ 202 2026-08-09
GLM-V 开源

一套模型搞定看图、看视频和视觉推理

GLM-4.6V/4.5V/4.1V-Thinking: Towards Versatile Multimodal Reasoning with Scalable Re···

★ 2406 2026-11-01
WangChanGLM 开源

让 AI 听懂多国语言，精准执行你的指令

WangChanGLM - The Multilingual Instruction-Following Model

★ 95 2026-08-09
open-llms 开源

一张表看清哪些开源大模型能商用，选型不踩坑

A list of open LLMs available for commercial use.

★ 12885 2026-08-09
PointLLM 开源

让大模型看懂三维点云，直接对话物体细节

[ECCV 2024 Best Paper Candidate & TPAMI 2025] PointLLM: Empowering Large Language Mo···

★ 1062 2026-08-09
LLaVAR 开源

让AI看懂图片里的文字，并和你对话

Code/Data for the paper: "LLaVAR: Enhanced Visual Instruction Tuning for Text-Rich I···

★ 269 2026-08-09