small-doge

小模型也能跑得溜，低资源部署不将就。

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 开源模型 🍴 复刻 11 🐛 待处理 6 👀 关注 3
GitHub ↗
GitHub 星标 ★ 199
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源模型，Apache-2.0许可证，可免费使用和部署。

项目预览

small-doge 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类开源模型
开发团队SmallDoges
GitHubhttps://github.com/SmallDoges/small-doge
定价模式🏷️完全免费
价格说明开源模型，Apache-2.0许可证，可免费使用和部署。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型attention-is-all-you-need,attention-mechanism,chinese,cross-domain-mixture-of-experts,deep-learning,deepseek-r1,dynamic-mask-attention,foundation-models,mechine-learning,natural-language-processing,nlp,python,pytorch,r1,reinforcement-learning,small-language-models,transformer,webui
GitHub 星标★ 199
上线时间2025-02-01 00:00:00
代码更新2026-01-06
仓库体积13.1 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数5

项目介绍

small-doge 是一个早期开源的轻量级语言模型家族项目，旨在提供高效、易部署的小规模语言模型。它解决了大模型资源消耗高、部署门槛高的问题，通过精简架构和优化训练策略，在保持一定性能的同时大幅降低推理成本。核心能力包括模型预训练、微调脚本、量化部署支持，以及针对小模型优化的注意力机制和词表设计。项目代码基于 Python 和主流深度学习框架，结构清晰，适合研究者和开发者快速上手，用于边缘设备或资源受限场景下的自然语言处理任务。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 199

核心亮点

  • 针对小模型优化了架构，推理速度快且内存占用低
  • 提供完整的训练和微调流程，便于定制化开发
  • 代码结构简洁，依赖少，易于集成到现有项目

不足之处

  • 项目处于早期阶段，文档和社区支持尚不完善
  • 模型能力相比大模型有差距，复杂任务表现有限

适用场景

  • 在手机或嵌入式设备上运行轻量级聊天助手
  • 作为大模型的前置过滤或快速分类器
  • 用于教学和科研，快速验证小模型训练方法

替代项目

TinyLlama、Phi-3-mini、Qwen2-0.5B

上一篇：pathology-foundation-models

下一篇：poseidon

同类项目推荐

sealion 开源

让大模型真正听懂东南亚多国语言

South-East Asia Large Language Models

★ 426 2026-09-25
civitai 开源

逛模型、传模型、找灵感，一站式 AI 绘画社区。

A repository of models, textual inversions, and more

★ 7314 2026-08-09
HermesFlow 开源

一个模型搞定看图说话和文字生图，无缝切换多模态任务

[NeurIPS 2025] HermesFlow: Seamlessly Closing the Gap in Multimodal Understanding an···

★ 79 2026-08-09
awesome-opensource-ai 开源

每日更新，帮你精选最值得关注的真正开源AI项目。

Curated list of the best truly open-source AI projects, models, tools, and infrastru···

★ 5014 2026-08-09
Eagle 开源

用数据策略打造更强的视觉语言模型，训练效果立竿见影

Eagle: Frontier Vision-Language Models with Data-Centric Strategies

★ 3824 2026-08-09
VisionLLM 开源

让视觉模型听懂人话，直接对话图像内容

VisionLLM Series

★ 1155 2026-08-09
Stable-Diffusion 开源

一站式搞定Stable Diffusion从入门到模型训练

FLUX, Stable Diffusion, SDXL, SD3, LoRA, Fine Tuning, DreamBooth, Training, Automati···

★ 2782 2026-08-09
Awesome-RL-for-Video-Generation 开源

一榜在手，快速掌握强化学习驱动视频生成的前沿论文

A curated list of papers on reinforcement learning for video generation

★ 587 2026-08-09
ERNIE 开源

用知识增强预训练，快速搞定复杂NLP任务

The official repository for ERNIE 4.5 and ERNIEKit – its industrial-grade developme···

★ 7739 2026-08-09