finetuned-qlora-falcon7b-medical

用QLoRA微调Falcon-7B,打造心理健康对话助手

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 27 🐛 待处理 1 👀 关注 4
GitHub ↗
GitHub 星标 ★ 263
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

finetuned-qlora-falcon7b-medical 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队iamarunbrahma
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Jupyter Notebook
技术栈/模型chatbot,chatbots,conversational-ai,falcon,falcon-7b,fine-tuning,healthcare,llm,lora,mental-health,peft,qlora
GitHub 星标★ 263
上线时间2023-07-21 00:00:00
代码更新2024-01-15
仓库体积178 KB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

这是一个基于Falcon-7B大语言模型,使用QLoRA技术针对心理健康对话数据集进行微调的开源项目。它解决了在有限计算资源下微调大型语言模型的问题,通过QLoRA(量化低秩适配)大幅降低显存占用,使开发者能在消费级GPU上训练自己的医疗领域对话助手。项目提供了完整的Jupyter Notebook教程,涵盖数据预处理、模型加载、量化配置、LoRA适配器训练及推理演示,核心能力包括:支持Hugging Face生态、可复现的训练流程、针对心理健康场景的对话生成。适合医疗AI研究者、聊天机器人开发者快速上手,但模型规模较小(7B),生成质量有限,且数据集覆盖范围可能不够全面。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 263

核心亮点

  • QLoRA技术大幅降低微调显存需求,消费级GPU可跑
  • 提供完整Notebook教程,从数据到推理开箱即用
  • 聚焦心理健康场景,有明确应用价值

不足之处

  • 7B模型生成能力有限,复杂对话可能答非所问
  • 数据集规模较小,泛化性待验证
  • 文档/社区待观察

适用场景

  • 心理健康咨询对话生成
  • 医疗领域垂直大模型微调教学
  • 低资源环境下LLM微调实践

替代项目

MedAlpaca、ClinicalBERT、HuggingFace PEFT

上一篇:RLHF-V

下一篇:chatgpt-finetune-ui

同类项目推荐

AViD 开源

用自定义数据微调视觉定位模型,省去搭训练管线

Framework that enables fine-tuning of vision-language grounding models on custom dat···

★ 606 2026-09-16
DAEDAL 开源

免训练,让扩散语言模型按需生成任意长度文本

[ICLR 2026] Official repository of "Beyond Fixed: Training-Free Variable-Length Deno···

★ 176 2026-08-09
LongRecipe 开源

把长文本压缩成短序列,高效训练长上下文模型。

LongRecipe: Recipe for Efficient Long Context Generalization in Large Language Model···

★ 79 2026-08-09
llm-foundry 开源

开箱即用的生产级 LLM 训练框架,快速搞定预训练与微调

LLM training code for Databricks foundation models

★ 4462 2026-08-09
model-optimization 开源

几行代码压缩模型,让大模型跑进手机和嵌入式设备

A toolkit to optimize ML models for deployment for Keras and TensorFlow, including q···

★ 1582 2026-10-17
Matlab-GAN 开源

用 MATLAB 跑通多种 GAN,从入门到 CycleGAN 一步到位

MATLAB implementations of Generative Adversarial Networks -- from GAN to Pixel2Pixel···

★ 209 2026-08-09
AutoGrad-Engine 开源

600 行纯 C# 从零实现 GPT 训练与推理

A complete GPT language model (training and inference) in ~600 lines of pure C#, zer···

★ 402 2026-10-31
xmtf 开源

多任务微调,让模型学会跨语言举一反三

Crosslingual Generalization through Multitask Finetuning

★ 534 2026-08-09