
Janus
一个模型搞定看图说话和画图,多模态全能选手
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 17761
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Python >= 3.8
- PyTorch 环境(用于加载模型)
- 可访问 GitHub 与 Hugging Face 下载模型权重
- 建议具备 GPU 与足够显存(README 节选未给出具体硬件门槛)
安装与启动步骤
-
1检查 Python 版本
确认本机 Python 版本不低于 3.8,否则后续 pip install -e . 可能失败。
python --version -
2克隆项目代码
从官方 GitHub 仓库拉取 Janus 源码,并进入项目根目录。
git clone https://github.com/deepseek-ai/Janus.git cd Janus -
3安装项目依赖
在项目根目录执行可编辑安装,安装 README 要求的必要依赖。
pip install -e . -
4补充生成依赖
如需使用图像生成能力,README 要求额外安装 diffusers 相关依赖。
pip install diffusers[torch] -
5下载模型权重
按 README 的 Model Download 章节从 Hugging Face deepseek-ai 组织下载 Janus-Pro 系列权重,节选未给出具体下载命令。
-
6运行推理代码
按 README 示例准备输入、调用 prepare_inputs_embeds 与 language_model.generate,并解码输出。
-
7确认输出结果
运行后控制台应打印出 sft_format 提示内容与模型返回的 answer 文本,且过程无报错。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
max_new_tokens | 否 | 控制生成的最大新 token 数量,示例中为 512。 | 512 |
do_sample | 否 | 是否采样生成,示例中使用 False 表示贪婪解码。 | False |
use_cache | 否 | 是否启用 KV 缓存以加速自回归生成。 | True |
pad_token_id | 否 | 填充 token 的 id,示例中设为 tokenizer.eos_token_id。 | tokenizer.eos_token_id |
bos_token_id | 否 | 起始 token 的 id,示例中取自 tokenizer。 | tokenizer.bos_token_id |
eos_token_id | 否 | 结束 token 的 id,示例中取自 tokenizer。 | tokenizer.eos_token_id |
如何确认成功
运行 README 的生成代码后,控制台打印出模型回答文本且无报错,即表示环境与模型加载成功。
常见问题
Q:安装依赖时应该用哪条命令?
A:README 要求在 Python >= 3.8 环境下执行 pip install -e .,图像生成还需 pip install diffusers[torch]。
Q:怎么使用图像生成功能?
A:在完成 pip install -e . 后额外执行 pip install diffusers[torch],再按 README 的生成示例调用模型。
Q:模型权重在哪里下载?
A:README 有 Model Download 章节,权重发布在 Hugging Face 的 deepseek-ai 组织下,节选未给出具体下载命令。
Q:可以不做本地部署直接体验吗?
A:可以,README 提供了 Janus-Pro-7B、Janus-1.3B、JanusFlow-1.3B 的 Hugging Face Space 在线 Demo。
Q:需要什么硬件?
A:README 节选未给出具体硬件要求,建议参考官方仓库说明,并使用 GPU 环境运行推理。
注意事项
- README 节选仅给出 Python >= 3.8 与两条 pip 安装命令,其他命令请以官方仓库为准。
- 模型权重体积较大,下载前请确认磁盘空间与网络环境。
- 示例推理代码需要自行补全前置的模型与 tokenizer 加载、输入预处理逻辑。
- 代码与模型分别适用不同许可证(LICENSE-CODE 与 LICENSE-MODEL),使用前请确认合规。
核心亮点
- 视觉编码解耦设计,理解与生成互不干扰,性能更优
- 提供 1B 和 7B 多尺寸模型,灵活适配不同算力场景
- 开源代码完整,含推理和训练脚本,二次开发门槛低
不足之处
- 模型参数量相对较大,端侧部署有挑战
- 文档/社区待观察
适用场景
- 多模态聊天机器人,同时理解图片并生成图像回复
- 创意设计辅助,根据文字描述生成配图并理解用户上传的草图
- 视觉内容分析,对图片进行描述、问答和内容再创作
替代项目
LLaVA、Qwen-VL、CogVLM
下一篇:kubesphere
同类项目推荐
mongolian-nlp
开源
一站式获取蒙古语NLP资源,快速启动你的蒙古语AI应用
Useful resources for Mongolian NLP
TokenFormer
开源
把参数变成 token,让 Transformer 按需扩展,省钱又灵活
[ICLR2025 Spotlight] Official Implementation of TokenFormer: Rethinking Transformer ···
awesome-foundation-model-ros
开源
一站式找到所有用大模型做机器人的ROS项目
A collection ROS projects utilizing foundation models.
ChatTime
开源
让时间序列模型读懂文本,预测更准
PyTorch implementation of "ChatTime: A Unified Multimodal Time Series Foundation Mod···
Awesome-VLA
开源
一网打尽视觉-语言-动作模型前沿进展
✨✨latest advancements in VLA models(VIsion Language Action)
LLMs4OL
开源
用大模型自动构建知识本体,省去手工建模的苦力活
LLMs4OL: Large Language Models for Ontology Learning
Awesome-LLM4Graph-Papers
开源
一页览尽 LLM 与图数据交叉研究,快速定位关键论文
[KDD'2024] "LLM4Graph: A Survey of Large Language Models for Graphs"
LucaOne
开源
一个模型统一处理核酸与蛋白序列
The resources of LucaOne, including: the model code, training scripts, embedding inf···
awesome-generative-ai
开源
一站式找到生成式AI所有好工具和模型
A curated list of Generative AI tools, works, models, and references