C2C

让大模型直接交换缓存,省去转文本的中间损耗

C2C 是论文《Cache-to-Cache: Direct Semantic Communication Between Large Language Models》的官方代码实现,聚焦多智能体场景下大语言模型之间的通信效率问题。传统多模型协作通常把中间结果转成自然语言文本再传给下一个模型,既慢又丢失语义细节。C2C 提出让模型直接交换 KV-Cache 中的语义表示,实现缓存到缓存的直接通信,跳过文本序列化与重新编码环节。核心能力包括:跨模型缓存对齐与投影、语义级信息传递、在多智能体推理链路中降低 token 开销与延迟。项目基于 Python,涉及 kv-cache、llm、multi-agent 技术栈,适合研究模型间协作、推理加速与缓存复用的开发者参考实现。

开源 free 开发框架
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 671
维护状态 活跃
是否开源
定价模式 free

项目数据

分类开发框架
开发团队thu-nics
所属国家
定价模式free
价格说明开源代码,免费使用
访问状态
是否开源
开源协议Apache-2.0
主要语言Python
技术栈/模型kv-cache,llm,multi-agent
GitHub 星标★ 671
30天Star增速
HF 下载量
上线时间2025-10-03 00:00:00
最近更新2026-09-21 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-22
浏览次数0

使用教程

核心亮点

  • 用 KV-Cache 直接通信替代文本中转,思路新颖且直击多模型协作的 token 与延迟开销
  • 提供 ICLR'26 论文的官方实现,可复现论文实验,研究价值明确
  • 技术栈聚焦 kv-cache 与 multi-agent,代码方向清晰,便于二次实验

不足之处

  • 早期项目,文档与使用示例可能不完整
  • 依赖特定模型与缓存格式,跨模型泛化与工程落地仍需验证

适用场景

  • 多智能体协作推理中减少模型间通信开销
  • 研究 LLM 间语义级信息传递与缓存复用
  • 推理加速场景下探索非文本形式的模型接口

替代项目

AutoGen、LangGraph

项目介绍

C2C 是开发框架领域的开源项目,由 thu-nics 开发,2025 年首次发布。

它收录于开发框架分类,该分类目前共有 793 个项目,GitHub 星标数为 671。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-21。开源代码,免费使用。

它主要面向的使用场景是:多智能体协作推理中减少模型间通信开销。同类可对比的替代方案包括 AutoGen、LangGraph。

上一篇:streamlit-webrtc

下一篇:ai-agents

同类项目推荐

langchain 开源

组装 AI 应用的乐高积木,从想法到上线不换工具

The agent engineering platform.

★ 146676 2026-08-09
transformers 开源

全球最大的模型仓库全家桶,想用的模型一把抓

Transformers: the model-definition framework for state-of-the-art machine learning m···

★ 166369 2026-08-09
pi 开源

一套 TypeScript 工具包,快速搭出能写代码的 AI agent

AI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI

★ 107282 2026-09-12