surprisal

统一接口,一键计算任意语言模型的惊异度

surprisal 是一个用于从语言模型中计算惊异度(surprisal,即对数概率)的统一接口库。它解决了不同语言模型(神经模型、符号模型、黑盒 API 模型)在计算概率输出时接口不一致、难以切换和比较的问题。核心能力包括:提供统一的 Python API 来获取 token 级别的对数概率;支持多种模型后端,如神经模型(Hugging Face Transformers)、符号模型(如 PCFG)以及通过 API 访问的闭源模型;能够输出结构化的概率数据,便于下游分析(如心理语言学、认知科学研究)。项目处于早期阶段,代码简洁,易于扩展,适合研究者快速集成不同模型进行惊异度对比实验。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 53
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队aalok-sathe
所属国家
定价模式free
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型gpt,language-modeling,large-language-models,log-likelihood,next-word-prediction,surprisal
GitHub 星标★ 53
30天Star增速
HF 下载量
上线时间2022-07-19 00:00:00
最近更新2026-06-23 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数3

使用教程

核心亮点

  • 统一抽象层,切换神经/符号/API 模型只需改一行配置
  • 直接输出 token 级对数概率,省去手动处理 logits 的麻烦
  • 轻量无依赖,易于集成到现有 NLP 或心理语言学 pipeline

不足之处

  • 文档/社区待观察
  • 目前支持的模型后端数量有限,扩展需自行编写适配器

适用场景

  • 心理语言学实验:比较不同模型对人类阅读时间的预测
  • 语言模型评估:快速计算测试集上的平均惊异度
  • 跨模型对比:统一接口下比较神经与符号模型的概率输出

替代项目

minicons、lm-evaluation-harness、transformers

项目介绍

surprisal 是基础设施领域的开源项目,由 aalok-sathe 开发,2022 年首次发布。

它收录于基础设施分类,该分类目前共有 1,132 个项目,GitHub 星标数为 53。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-06-23。MIT许可证,完全免费,可自行部署使用。

它主要面向的使用场景是:心理语言学实验:比较不同模型对人类阅读时间的预测。同类可对比的替代方案包括 minicons、lm-evaluation-harness、transformers。

上一篇:thepipe

下一篇:nexus

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09