
agents
几行代码搭出能听会说的实时语音 AI 助手
agents 是 OpenAI 推出的开源 Python 框架,用于构建实时语音 AI 智能体。它解决的核心问题是:开发者通常需要自己拼接语音识别、大模型推理、语音合成、打断处理、多轮对话状态管理等环节,工程量大且延迟难以控制。该框架把这些能力封装成可组合的 Agent、工具调用、会话与音频管道抽象,支持实时语音输入输出、函数调用、多智能体协作与人工介入,并可与 WebRTC、电话等实时传输层对接。开发者只需定义指令、工具和语音配置,就能快速搭建能听、能说、能调用外部服务的语音助手,同时保留对底层模型和音频流的控制权,适合做客服、语音助手、实时交互类产品原型与生产落地。
项目数据
使用教程
环境要求
- Python 环境(建议 3.9 及以上)
- 可用的 pip 包管理器
- 需要访问 LiveKit 服务与模型提供商的 API Key
安装与启动步骤
-
1安装核心库与插件
安装 livekit-agents 核心库,并按需选择模型提供商插件,如 openai、deepgram、cartesia。
pip install "livekit-agents[openai,deepgram,cartesia]" -
2编写 Agent 脚本
README 未给出完整示例代码,需按官方文档定义指令、工具与语音配置,保存为 myagent.py。
-
3开发模式运行调试
开发阶段用 uv 同步全部依赖与开发工具,便于本地调试和热重载。
uv sync --all-extras --dev -
4生产模式启动
以生产优化配置启动 Agent,脚本名替换为你自己的文件名。
python myagent.py start
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
OPENAI_API_KEY | 是 | 调用 OpenAI 模型所需的密钥 | sk-xxxxxxxx |
LIVEKIT_URL | 是 | LiveKit 服务地址,用于接入实时传输 | wss://your-project.livekit.cloud |
LIVEKIT_API_KEY | 是 | LiveKit 项目 API Key | APIxxxxxxxx |
LIVEKIT_API_SECRET | 是 | LiveKit 项目 API Secret | xxxxxxxxxxxxxxxx |
如何确认成功
终端无报错且日志显示 Agent 已注册并连接到 LiveKit 房间,即可在客户端通话验证。
常见问题
Q:必须用 uv 吗?
A:不是,生产运行用 python myagent.py start 即可;uv 仅用于开发环境同步依赖。
Q:需要哪些插件?
A:按模型提供商选择,例如 openai、deepgram、cartesia,可只装用到的,也可留空只装核心库。
Q:README 里有完整示例代码吗?
A:README 的 Usage 章节为空,需参考官网 docs.livekit.io/agents 获取示例与配置细节。
注意事项
- README 未提供完整 Agent 示例代码,请以官方文档为准
- 命令中的 myagent.py 为占位文件名,需替换为你的脚本名
- JS/TS 版本请使用另一个仓库 livekit/agents-js
- 生产环境建议配置好 LiveKit 与模型提供商的密钥后再启动
核心亮点
- 把语音识别、大模型、语音合成、打断处理打包成可组合抽象,显著降低实时语音 Agent 的开发门槛
- 原生支持函数调用、多智能体交接和人工介入,适合构建有工具能力的复杂语音工作流
- 与 OpenAI 实时 API 及 WebRTC、电话等传输层集成,方便从原型走向真实通话场景
不足之处
- 对 OpenAI 实时模型依赖较强,换用其他模型或自建语音栈时需要较多适配工作
- 实时语音与电话集成涉及音频流和网络细节,调试与延迟优化门槛不低
适用场景
- 搭建可实时对话的语音客服或语音助手原型
- 为现有应用加入能调用外部工具的电话/语音交互入口
- 研究和实验多智能体语音协作、打断与人工接管等交互模式
替代项目
Pipecat、LiveKit Agents
项目介绍
上一篇:ten-framework
下一篇:ai-agent-skills
同类项目推荐
ComfyUI_Custom_Nodes_AlekPet
开源
给 ComfyUI 装上语音翻译和姿态检测,工作流更全能
Custom nodes that extend the capabilities of Comfyui
langchain
开源
组装 AI 应用的乐高积木,从想法到上线不换工具
The agent engineering platform.
transformers
开源
全球最大的模型仓库全家桶,想用的模型一把抓
Transformers: the model-definition framework for state-of-the-art machine learning m···
bruno
开源
把 API 测试当代码管理,用 Git 搞定协作与版本追踪
Opensource IDE For Exploring and Testing API's (lightweight alternative to Postman/I···