llamppl

用自然语言写概率模型，让 LLM 直接做贝叶斯推理

llamppl 是一个把大语言模型当作概率编程运行时的 Python 框架。传统概率编程（如 PyMC、Stan）需要手写先验、似然和推理算法，而 llamppl 让你直接用自然语言描述模型，由 LLM 提供条件概率与采样能力，从而在语言模型之上做贝叶斯推理、条件生成和不确定性估计。它基于 HuggingFace Transformers，核心思路是把 LLM 的 token 分布视为概率分布，支持在生成过程中施加约束、观测变量和条件，实现类似 PPL 的 observe/sample 语义。适合研究 LLM 推理能力、做可控文本生成、以及探索神经符号概率建模的开发者。项目处于早期，星标约 179，API 和文档仍在演进，但为 LLM 与概率编程结合提供了一个轻量、可读的参考实现。