
Index-1.9B
19亿参数小模型,普通显卡也能跑多语言对话
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 1037
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- 已安装 Python 与 pip,可执行 pip install
- 可访问 GitHub(克隆仓库)与 Hugging Face(获取模型权重)的网络环境
- 足够的本地磁盘空间用于存放 1.9B 参数模型权重
- 建议具备可用于大模型推理的显卡环境(README 未明确说明硬件要求)
安装与启动步骤
-
1克隆项目仓库
从 GitHub 拉取 Index-1.9B 源码到本地,这是后续安装依赖和运行脚本的基础。
git clone https://github.com/bilibili/Index-1.9B cd Index-1.9B -
2安装依赖
在项目根目录使用 requirements.txt 一次性安装运行所需的 Python 依赖包。
pip install -r requirements.txt -
3获取模型权重
从 Hugging Face 的 IndexTeam 仓库下载所需权重(如 Index-1.9B-Chat、Index-1.9B-Chat-GGUF)。README 未给出下载命令,请按对应仓库页面操作。
-
4启动 32K 长文本 Demo
README 明确指出 Index-1.9B-32K 只能用该脚本启动,其他方式均不支持,运行前请确保权重已就位。
python demo/cli_long_text_demo.py
如何确认成功
README 未给出明确的启动成功标志;只要上述命令执行无报错并正常进入脚本交互界面,即视为部署成功。
常见问题
Q:Index-1.9B-32K 能不能用别的方式启动?
A:不能。README 特别注明 Index-1.9B-32K 只能使用 demo/cli_long_text_demo.py 这一个工具启动。
Q:不想本地部署,能直接在线体验吗?
A:可以。官方在 Hugging Face Spaces 上提供了 Chat 和 Role-playing 两个在线 Demo,直接打开网页即可试用。
Q:支持 Ollama 和 llama.cpp 吗?
A:支持。项目已适配 llamacpp 和 Ollama,官方提供了 Index-1.9B-Chat-GGUF 量化权重,可在 Hugging Face 上获取。
Q:还有哪些可选的模型版本?
A:除基础的 Index-1.9B、对话模型和角色扮演模型外,还开源了 32K 长上下文版本和供研究使用的 Index-1.9B-Constant-LR 检查点。
注意事项
- Index-1.9B-32K 必须使用 demo/cli_long_text_demo.py 启动,这是 README 中的硬性说明。
- README 未提供模型权重的下载命令,需要自行前往 Hugging Face 的 IndexTeam 仓库获取。
- README 未给出基础模型与对话模型的具体启动命令,建议查看仓库内其他 demo 脚本后再运行。
- 安装依赖前请确认处于已 cd 进入的 Index-1.9B 项目根目录,否则 pip 找不到 requirements.txt。
核心亮点
- 参数仅1.9B,显存占用低,可在消费级显卡甚至CPU上推理
- 提供基础、对话、角色扮演三种版本,开箱即用
- 官方附带量化方案和部署示例,降低落地门槛
不足之处
- 模型规模小,复杂推理和知识问答能力弱于7B以上模型
- 社区生态和第三方工具适配相对有限
适用场景
- 本地部署轻量级多语言聊天机器人
- 边缘设备或低配服务器上的文本生成应用
- 角色扮演类对话产品的原型验证
替代项目
Qwen2.5-1.5B、Phi-3-mini
同类项目推荐
BayLing
开源
基于LLaMA的中英双语模型,性能接近ChatGPT九成
“百聆”是一个基于LLaMA的语言对齐增强的英语/中文大语言模型,具有优越的英语/中文能力,···
kalosm
开源
在 Rust 中本地跑 AI 模型,快、可控、隐私安全
Instant, controllable, local pre-trained AI models in Rust
hyena-dna
开源
百万级DNA序列直接建模,解锁基因组长程调控密码
Official implementation for HyenaDNA, a long-range genomic foundation model built wi···
LimiX
开源
让AI精通表格数据,自动完成数据建模与分析
LimiX: Unleashing Structured-Data Modeling Capability for Generalist Intelligence ht···
free-ai-resources-x
开源
一站式免费AI资源导航,快速找到好工具
A curated collection of free, high quality AI tools , APIs , datasets , and learning···
Deep-Learning-Applications-with-···
开源
一张清单,找到带界面的开源AI工具,不用敲命令。
List of FOSS Deep Learning Applications with GUI and/or CLI
VisualRWKV
开源
让 RWKV 看懂图片,多模态推理更高效
VisualRWKV is the visual-enhanced version of the RWKV language model, enabling RWKV ···
OneJev
开源
一次前向传播,给屏幕/视频/图文问题带置信度的答案
A multimodal System One decision model that gives calibrated answers to typed questi···
LLMPapers
开源
一站式追踪大模型前沿论文与工作
Papers & Works for large languange models (OpenAI GPT-4, Meta Llama, etc.).