paritok-4b-v1

给编码问答先瘦身,速度翻倍还无损

开源 🏷️定价信息待确认 ✅ 目前可打开 基础设施 🍴 复刻 138 🐛 待处理 8 👀 关注 128
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 1443
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

paritok-4b-v1 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队Paritok-official
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态✅ 目前可打开
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型agentic-coding,ai,ai-agents,ai-coding,ai-infrastructure,developer-tools,llm-gateway,llms,token-optimization
GitHub 星标★ 1443
上线时间2026-07-15 00:00:00
代码更新2026-11-06
仓库体积61.6 MB
本站数据更新2026-11-08
维护状态活跃
收录时间2026-08-09
浏览次数5

项目介绍

面向 AI 编码 Agent 的无损压缩网关,基于开源代码原生 4B 模型实现智能压缩。在首轮对话即可节省约 25% 的 Token 费用,长会话或上下文饱和场景下节省可高达 85%,让同一上下文窗口容纳约 3 倍的对话轮次,可直接替换接入 Claude 等工具。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1443

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 10 分钟 部署方式:本地安装 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Python 环境(README 节选未给出具体版本要求)
  • 支持修改 BASE_URL 的 AI 编码 Agent,如 Claude Code、Cursor、Codex、OpenHands
  • 可正常访问的上游 LLM 服务凭证(请求经 Paritok 转发后按压缩后 Token 计费)

安装与启动步骤

  1. 1安装 Paritok 代理

    用 pip 安装带 proxy 附加项的 paritok 包;建议先创建并激活虚拟环境,避免污染全局依赖。

    pip install "paritok[proxy]"
  2. 2启动本地代理服务

    README 节选未给出启动命令,请按官网或项目仓库文档启动 Paritok 本地代理服务。

  3. 3把 Agent 指向 Paritok

    Paritok 是 drop-in 代理,无需改 Agent 代码,只需将其 BASE_URL 改为本地代理地址,具体地址以服务实际监听地址为准。

  4. 4验证接入生效

    用原 Agent 正常发起一次对话,确认模型仍能正常返回结果,并对比压缩前后的输入 Token 用量。

关键配置

配置项必填说明示例
BASE_URL是把编码 Agent 的请求转发到 Paritok 代理入口,而非直连上游 LLM。http://127.0.0.1:<Paritok 服务端口>

如何确认成功

用 Agent 正常发起一次请求,若返回内容正常且输入 Token 用量下降,说明代理接入成功。

常见问题

Q:需要修改现有 Agent 的代码吗?

A:不需要。README 说明 Paritok 是 drop-in 代理,任何遵循 BASE_URL 的 Agent 都能直接接入,不必改动一行代码。

Q:支持哪些编码 Agent?

A:官方说明兼容 Claude Code、Cursor、Codex、OpenHands,以及所有支持 BASE_URL 配置的 Agent。

Q:能节省多少 Token 费用?

A:首轮对话约节省 25%,在长会话或上下文接近饱和的场景可超过 85%,同一上下文窗口可容纳约 3 倍轮次。

Q:压缩后原始内容会丢失吗?

A:不会。Paritok 是非破坏性压缩,被压缩的工具结果、文件读取等原文,Agent 可按需拉回精确内容。

注意事项

  • README 节选只提供了 pip 安装命令,未给出启动命令、默认端口和配置文件格式,请以官网或完整 README 为准。
  • Paritok 为无损压缩网关,原始内容可随时按需还原。
  • 项目由首个面向编码 Agent 训练的开源 4B 压缩模型驱动,模型权重托管在 HuggingFace(paritok/paritok-4b-v1)。

核心亮点

  • 基于自研4B代码模型实现无损压缩网关,可降低25%至85%的token消耗,显著节省成本
  • 兼容Claude Code、Cursor、Codex、OpenHands等主流AI编码工具,支持BASE_URL接入,集成成本低
  • 在相同上下文窗口下可容纳约3倍对话轮次,提升长会话和饱和场景下的工作效率

不足之处

  • 早期项目(星标913),稳定性、安全性和社区支持待验证
  • 压缩效果依赖特定模型,可能对非代码场景或特殊格式支持有限

适用场景

  • 长会话AI编码任务,如大型代码库重构或复杂调试
  • 高并发或成本敏感的生产环境,需降低API调用费用
  • 上下文窗口受限的编码场景,需扩展有效对话容量

替代项目

LiteLLM Proxy、OpenRouter、Portkey Gateway

上一篇:claw-compactor

下一篇:daytona

同类项目推荐

aiops-modules 开源

把 AWS 上 AI 基建打包成积木,快速搭建和运维

AIOps modules is a collection of reusable Infrastructure as Code (IaC) modules for M···

★ 104 2026-08-09
NeuroAPI 开源

俄罗斯开发者一键接入全球主流 AI 模型,绕过支付和地域限制。

NeuroAPI: российский AI API для Codex CLI и Claude Code — безопа···

★ 1317 2026-08-09
simpleAI 开源

一键自托管 AI API,无缝替换 OpenAI 接口

An easy way to host your own AI API and expose alternative models, while being compa···

★ 327 2026-08-09
llama_deploy 开源

把 LlamaIndex 智能体工作流一键部署成生产级微服务

Deploy your agentic worfklows to production

★ 2066 2026-08-09
dola-render-gateway 开源

统一调度视频生成任务,让并发请求不打架

High-performance video generation gateway and session coordinator

★ 245 2026-09-29
MLOps 开源

跟着示例,快速上手机器学习运维全流程

MLOps examples

★ 2124 2026-08-09
kiji-proxy 开源

给 OpenAI 请求加层隐私滤镜,敏感信息不外泄。

Privacy proxy for your OpenAI requests

★ 451 2026-08-09
inferoxy 开源

一键部署 Docker 化 CV 模型,快速上线推理服务

Service for quick deploying and using dockerized Computer Vision models

★ 95 2026-08-09
hopsworks 开源

管好特征,让 AI 模型开发又快又稳

Hopsworks - Data-Intensive AI platform with a Feature Store

★ 1311 2026-08-09