LLM2Jev 是开发框架领域的开源项目，由 Yinsongxu 开发，是 2026 年新上线的项目。
它收录于开发框架分类，该分类目前共有 806 个项目，GitHub 星标数为 334。
项目目前处于活跃维护状态，最近一次代码更新于 2026-09-25。免费使用。
它主要面向的使用场景是：本地部署的文本分类、意图识别与路由决策。同类可对比的替代方案包括 Outlines、LMQL、Guidance。
LLM2Jev
本地大模型免逐字解码，prefill 一步出结构化决策结果
LLM2Jev 是一个把本地大语言模型（含多模态模型）改造成 Jev 风格结构化决策模型的开发框架。传统 LLM 生成结果需要逐 token 解码，速度慢且输出格式不稳定；该项目通过 prefill 阶段直接得到结构化决策结果，无需逐 token 解码，从而显著降低推理延迟并保证输出结构可控。它支持文本和图像输入，适合需要本地部署、对响应速度和输出格式有硬性要求的场景，例如分类、打分、路由、表单抽取等决策型任务。项目用 Python 编写，基于 jev、llm、mllm 技术栈，目前处于早期阶段，星标数约 334，适合愿意跟进新范式、自己动手集成和调优的开发者。
开源
free
开发框架
GitHub 星标
★ 334
维护状态
活跃
是否开源
是
定价模式
free
项目数据
分类开发框架
开发团队Yinsongxu
所属国家
定价模式free
价格说明开源项目，免费使用
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型jev,llm,mllm
GitHub 星标★ 334
30天Star增速
HF 下载量
上线时间2026-09-19 00:00:00
最近更新2026-09-25 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-26
浏览次数0
使用教程
核心亮点
- 用 prefill 直接产出结构化决策，省去逐 token 解码，推理延迟明显更低
- 同时支持文本与图像输入，多模态决策场景可直接复用
- 输出为 Jev 风格结构化结果，格式稳定，便于下游程序解析和接入
不足之处
- 早期项目，生态与周边工具链尚不成熟
- 依赖本地模型部署，对硬件和模型适配有一定门槛
适用场景
- 本地部署的文本分类、意图识别与路由决策
- 图像内容审核或打标，需要结构化输出的多模态任务
- 对响应延迟敏感、要求输出格式固定的在线服务
替代项目
Outlines、LMQL、Guidance
项目介绍
上一篇：dsh-hub-cli
下一篇：TypeLLM
同类项目推荐
ComfyUI_Custom_Nodes_AlekPet
开源
给 ComfyUI 装上语音翻译和姿态检测，工作流更全能
Custom nodes that extend the capabilities of Comfyui
langchain
开源
组装 AI 应用的乐高积木，从想法到上线不换工具
The agent engineering platform.
transformers
开源
全球最大的模型仓库全家桶，想用的模型一把抓
Transformers: the model-definition framework for state-of-the-art machine learning m···
pi
开源
一套 TypeScript 工具包，快速搭出能写代码的 AI agent
AI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI