llamppl

用自然语言写概率模型,让 LLM 直接做贝叶斯推理

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开发框架 🍴 复刻 29 🐛 待处理 11 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 183
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源免费,需自行部署

项目预览

llamppl 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开发框架
开发团队genlm
定价模式🏷️完全免费
价格说明开源免费,需自行部署
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型huggingface-transformers,language-model,ppl,probabilistic-programming,python3
GitHub 星标★ 183
上线时间2023-08-22 00:00:00
代码更新2026-09-26
仓库体积1.2 MB
本站数据更新2026-11-18
维护状态维护中
收录时间2026-10-05
浏览次数3

项目介绍

llamppl 是一个把大语言模型当作概率编程运行时的 Python 框架。传统概率编程(如 PyMC、Stan)需要手写先验、似然和推理算法,而 llamppl 让你直接用自然语言描述模型,由 LLM 提供条件概率与采样能力,从而在语言模型之上做贝叶斯推理、条件生成和不确定性估计。它基于 HuggingFace Transformers,核心思路是把 LLM 的 token 分布视为概率分布,支持在生成过程中施加约束、观测变量和条件,实现类似 PPL 的 observe/sample 语义。适合研究 LLM 推理能力、做可控文本生成、以及探索神经符号概率建模的开发者。项目处于早期,星标约 179,API 和文档仍在演进,但为 LLM 与概率编程结合提供了一个轻量、可读的参考实现。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-05 · 当前星标 ★ 183

核心亮点

  • 把 LLM 的 token 分布直接当作概率分布,支持 observe/sample 语义,概念清晰
  • 基于 HuggingFace Transformers,可替换任意本地或微调模型,不绑定闭源 API
  • 代码量小、可读性强,适合作为 LLM+概率编程方向的学习与二次开发起点

不足之处

  • 项目早期,API 和文档不稳定,缺少完整教程与示例覆盖
  • 推理依赖 LLM 前向计算,采样和条件推断成本高、速度慢,难用于大规模任务

适用场景

  • 研究 LLM 是否具备贝叶斯推理能力,做条件生成与不确定性实验
  • 在文本生成中施加硬约束或观测变量,实现可控采样
  • 教学演示:用自然语言描述概率模型并快速验证想法

替代项目

PyMC、Stan、Gen.jl

上一篇:dsh-our-free-model

下一篇:tree-of-thoughts

同类项目推荐

awesome-skills 开源

让 AI 助手一键调用 Apify 爬虫,直接抓取真实数据

Community collection of Apify agent skills for AI coding assistants

★ 299 2026-09-13
langchain-scrapingbee 开源

让 LangChain 应用一键抓取反爬网页,直接喂给大模型

LangChain integrations for ScrapingBee

★ 102 2026-09-12
aoci-code 开源

给 AI 编码代理一份 Git 管理的代码地图,改代码前先读全局

A persistent, Git-versioned map of your whole codebase and database schema that codi···

★ 2084 2026-09-28
wasp 开源

写声明式配置,自动生成全栈 React+Node 应用

The batteries-included full-stack framework for the AI era. Develop JS/TS web apps (···

★ 18808 2026-10-10
1c-agent-based-dev-framework 开源

让 AI 智能体替你写 1C 代码,开发任务自动跑起来

Фреймворк агентной разработки на 1С

★ 120 2026-10-13
beehive 开源

让多个AI编码代理在独立工作区并行协作,互不干扰。

Orchestrate coding agents across isolated git workspaces

★ 64 2026-08-09
Core-AI-Framework-Lab 开源

在 Apple 芯片上跑通生成式 AI 推理的实战手册

A practical lab for exploring Apple's Core AI framework, model assets, specializatio···

★ 66 2026-08-09
RasaTalk 开源

用 JavaScript 快速搭建基于 Rasa 的聊天机器人

A chatbot framework for Rasa NLU

★ 303 2026-08-09
llm-extension-for-cmd-pal 开源

在 PowerToys 命令面板里直接召唤 AI,键盘党秒变效率大师

An LLM extension for PowerToys Command Palette

★ 83 2026-08-09