项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 6272
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- 一个 Helicone 账号(用于获取 API Key)
- 账号内需有可用额度(credits)
- 代码中原先调用 LLM 的 OpenAI SDK(示例使用 TypeScript/Node 版 openai 包)
- 可访问 https://ai-gateway.helicone.ai 的网络环境
安装与启动步骤
-
1注册并获取API Key
打开 https://helicone.ai/signup 注册账号,注册完成后在控制台获取你的 Helicone API Key。
-
2为账号添加额度
前往 https://us.helicone.ai/credits 添加 credits,否则通过网关发出的请求会因额度不足而失败。
-
3修改baseURL接入网关
把代码里的 baseURL 指向 Helicone 网关,apiKey 传入你的 Helicone API Key,其余调用逻辑不用改。
import OpenAI from "openai"; const client = new OpenAI({ baseURL: "https://ai-gateway.helicone.ai", apiKey: process.env.HELICONE_API_KEY, }); const response = await client.chat.completions.create({ model: "gpt-4o-mini", // claude-sonnet-4, gemini-2.0-flash or any model from https://www.helicone.ai/models messages: [{ role: "user", content: "Hello!" }] }); -
4查看日志与用量
请求发出后,登录 https://us.helicone.ai/dashboard 查看日志、成本、延迟和 token 用量。
-
5可选:Docker自托管
README 提到可用官方 docker-compose 文件本地自托管,但未给出具体命令,需按官方文档操作。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
baseURL | 是 | 把请求转发到 Helicone AI Gateway,替代 OpenAI 官方地址。 | https://ai-gateway.helicone.ai |
apiKey | 是 | 你的 Helicone API Key,示例中通过环境变量读取。 | process.env.HELICONE_API_KEY |
HELICONE_API_KEY | 是 | 存放 Helicone API Key 的环境变量名。 | sk-xxxxxxxx |
model | 否 | 要调用的模型名,可换成 Helicone 支持的任一模型。 | gpt-4o-mini |
messages | 是 | 标准 OpenAI 格式的消息数组,保持原有写法即可。 | [{ role: "user", content: "Hello!" }] |
如何确认成功
在 https://us.helicone.ai/dashboard 中能看到刚发出的请求日志、成本与延迟,即接入成功。
常见问题
Q:如何获取 Helicone API Key?
A:在 https://helicone.ai/signup 注册账号后即可拿到 API Key,并在 https://us.helicone.ai/credits 添加额度后使用。
Q:通过 Helicone 网关能调用哪些模型?
A:README 说明可通过一个 API 访问 100+ 模型,示例包括 gpt-4o-mini、claude-sonnet-4、gemini-2.0-flash,完整列表见 https://www.helicone.ai/models。
Q:可以自己本地部署 Helicone 吗?
A:可以,README 提到项目支持简单自托管和更新,需使用官方 docker-compose 文件,具体步骤见 https://docs.helicone.ai/getting-started/self-deploy-docker。
Q:在哪里查看请求日志?
A:登录 https://us.helicone.ai/dashboard 即可查看日志,并按自定义属性过滤和查看成本、延迟等指标。
注意事项
- README 示例基于 OpenAI 官方 TypeScript SDK(import OpenAI from "openai"),使用前请确保项目中已安装并可用该依赖。
- 接入方式是替换 baseURL 为 https://ai-gateway.helicone.ai,而不是替换整个模型调用代码。
- API Key 建议通过环境变量 HELICONE_API_KEY 传入,不要硬编码在源码里。
- Docker 自托管部分 README 只给出 docker-compose 文档链接,未提供具体命令,请以官方文档为准。
核心亮点
- 一行代码集成,支持多种语言和框架,接入成本极低
- 内置成本与延迟追踪,可精确到每次请求,便于优化
- 支持基于真实流量的批量评估和实验,提升模型迭代效率
不足之处
- 自托管部署配置相对复杂,需依赖 Docker 和外部数据库
- 高级评估功能可能需付费版,开源版功能有限
适用场景
- 生产环境 LLM 应用监控与成本管理
- Prompt 版本迭代与回归测试
- 多模型或 A/B 测试的在线评估
替代项目
Langfuse、LangSmith、Phoenix (Arize)
同类项目推荐
wyoming_openai
开源
把本地语音服务变成 OpenAI 接口,轻松接入 Home Assistant
OpenAI-Compatible Proxy Middleware for the Wyoming Protocol
smfs
开源
让 AI 像 grep 一样,秒搜所有文件内容
A filesystem designed for agents, with SOTA retrieval, automatic memory profiles, sy···
dify-google-cloud-terraform
开源
在 Google Cloud 上快速部署生产级 Dify,自动搞定高可用和弹性伸缩。
Terraform configuration for deploying Dify on Google Cloud with scalability, high av···
semantica
开源
知识串成图谱,AI 回答有据可查能追责
Graph-Native Infrastructure for Context and Accountable AI Systems
memoket-kite
开源
不搭向量库,让 AI Agent 用更少上下文记住长期对话
An open-source, vector-free long-term memory engine for AI agents, achieving SOTA on···
TrueMemory
开源
给 AI 装上本地持久记忆,自动捕获自动回忆,告别失忆。
The memory your AI should have had from the start. Automatic capture, automatic reca···
muse2api
开源
把 Muse 变成 OpenAI 接口,现有代码改个地址就能用
把 Muse(muse.ai) 逆向封装为 OpenAI 兼容接口,支持对话、文生图、文生视频/图生视频、多···
fastembed-rs
开源
本地生成向量嵌入,让 Rust 应用秒变语义搜索高手
Rust library for generating vector embeddings and reranking locally!
kubeai
开源
在 K8s 上声明式部署大模型,自动扩缩容,开箱即用 OpenAI 接口
AI Inference Operator for Kubernetes. The easiest way to serve ML models in producti···