qwen-3-1.7b-finetune-proj

微调小模型,专门写不含字母e的英文

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 15 🐛 待处理 1
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 179
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,基于Qwen微调,免费使用

项目预览

qwen-3-1.7b-finetune-proj 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类模型训练
开发团队kevinyvv
定价模式🏷️完全免费
价格说明开源项目,基于Qwen微调,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
GitHub 星标★ 179
上线时间2026-09-21 00:00:00
代码更新2026-10-29
仓库体积5.3 MB
本站数据更新2026-11-11
维护状态较活跃
收录时间2026-11-11
浏览次数0

项目介绍

这是一个基于 Qwen 3 1.7B 小模型做监督微调的实验项目,目标很具体:让模型生成完全不包含字母 e 的英文文本。项目用 Python 实现,围绕数据构造、微调脚本和推理验证展开,适合作为小模型指令微调的入门范例。核心能力包括:构造无 e 约束的训练样本、对 Qwen 3 1.7B 进行参数微调、在推理阶段检查输出是否满足字符级约束。它解决的是受限文本生成(constrained generation)问题,即模型需要在词汇选择上主动避开某个高频字母,同时保持语义通顺。相比提示词约束,微调能让模型内化规则,减少逐词检查的推理开销。项目体量小、代码直观,适合学习微调流程、数据设计和约束满足评估,也可作为其他字符级或词级约束生成任务的模板。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-11 · 当前星标 ★ 179

核心亮点

  • 任务定义清晰,字符级约束可直接量化评估
  • 基于 Qwen 3 1.7B 小模型,训练成本低、易复现
  • 代码为 Python 单项目结构,适合作为微调入门模板

不足之处

  • 仅针对单一字母约束,通用性和扩展性有限
  • 早期项目,文档与训练细节可能不完整

适用场景

  • 学习小模型监督微调的完整流程
  • 研究受限文本生成与约束满足评估
  • 作为字符级规则内化的实验基线

替代项目

unsloth、LLaMA-Factory、trl

上一篇:HarborRL

下一篇:tinker-ai-skill

同类项目推荐

MoA 开源

自动混合稀疏注意力,压缩 LLM 省内存提速

[CoLM'25] The official implementation of the paper

★ 163 2026-08-09
halo 开源

一套框架搞定 LLM 与多模态的微调和强化学习训练

Halo is an open-source framework built by White Circle for training large language a···

★ 854 2026-09-25
Alpaca-CoT 开源

统一接口微调大模型,轻松搞定数据、模型与方法

We unified the interfaces of instruction-tuning data (e.g., CoT data), multiple LLMs···

★ 2785 2026-08-09
MLX-LoRA-Studio 开源

Mac 上点几下就完成大模型 LoRA 微调,数据不出本机

A native Mac App for LLM fine-tuning on Apple Silicon — fully on-device, fully open···

★ 289 2026-09-16
SoftCoT 开源

用软思维链替代文本推理,大幅降低 LLM 推理成本

ACL'2025: SoftCoT: Soft Chain-of-Thought for Efficient Reasoning with LLMs. and prep···

★ 96 2026-08-09
Re-Align 开源

用图像检索给VLM装上“防幻觉滤镜”,生成更可信。

[EMNLP'25] A novel alignment framework that leverages image retrieval to mitigate ha···

★ 52 2026-08-09
AlignProp 开源

直接反向传播奖励,让扩散模型更听话,效率提升25倍

AlignProp uses direct reward backpropogation for the alignment of large-scale text-t···

★ 330 2026-08-09
SuperPiano 开源

在 Colab 里用 Transformer 一键生成钢琴曲

Absolutely amazing SOTA Google Colab (Jupyter) Notebooks for creating/training SOTA ···

★ 91 2026-08-09