helicone

一行代码接入,实时监控和评估你的 LLM 应用

开源 🏷️基础免费,高级付费 ✅ 目前可打开 基础设施 🍴 复刻 703 🐛 待处理 193 👀 关注 58
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 6272
维护状态 较活跃
是否开源 开源
定价模式 🏷️基础免费,高级付费 支持限时试用 · 开源可自托管,同时提供托管云服务,有免费额度,付费解锁更多功能与支持。

项目预览

helicone 项目界面预览图
图片来源:项目官网

项目数据

分类基础设施
开发团队Helicone
定价模式🏷️基础免费,高级付费
价格说明开源可自托管,同时提供托管云服务,有免费额度,付费解锁更多功能与支持。
访问状态✅ 目前可打开
是否开源是
开源协议Apache-2.0
主要语言TypeScript
技术栈/模型agent-monitoring,analytics,evaluation,gpt,langchain,large-language-models,llama-index,llm,llm-cost,llm-evaluation,llm-observability,llmops,monitoring,open-source,openai,playground,prompt-engineering,prompt-management,ycombinator
GitHub 星标★ 6272
上线时间2023-01-31 00:00:00
代码更新2026-10-28
仓库体积760.9 MB
本站数据更新2026-11-09
维护状态较活跃
收录时间2026-08-09
浏览次数5

项目介绍

Helicone 是一个开源的 LLM 可观测性平台,旨在帮助开发者监控、评估和优化大语言模型应用。它通过一行代码集成,即可捕获所有 LLM 请求的日志、成本、延迟和 token 用量,并提供可视化仪表盘、请求追踪、自定义属性过滤等功能。同时,Helicone 支持基于真实流量的批量评估(如 A/B 测试、质量评分),以及 prompt 实验和回归检测,帮助团队在开发和生产环境中持续改进模型性能。其技术栈覆盖主流框架(LangChain、LlamaIndex 等),并提供 API 和 SDK,便于自动化集成。项目由 YC W23 孵化,社区活跃,适合从原型到生产规模的 LLM 应用团队使用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 6272

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 10 分钟 部署方式:云服务 5 步

环境要求

  • 一个 Helicone 账号(用于获取 API Key)
  • 账号内需有可用额度(credits)
  • 代码中原先调用 LLM 的 OpenAI SDK(示例使用 TypeScript/Node 版 openai 包)
  • 可访问 https://ai-gateway.helicone.ai 的网络环境

安装与启动步骤

  1. 1注册并获取API Key

    打开 https://helicone.ai/signup 注册账号,注册完成后在控制台获取你的 Helicone API Key。

  2. 2为账号添加额度

    前往 https://us.helicone.ai/credits 添加 credits,否则通过网关发出的请求会因额度不足而失败。

  3. 3修改baseURL接入网关

    把代码里的 baseURL 指向 Helicone 网关,apiKey 传入你的 Helicone API Key,其余调用逻辑不用改。

    import OpenAI from "openai";
    
    const client = new OpenAI({
      baseURL: "https://ai-gateway.helicone.ai",
      apiKey: process.env.HELICONE_API_KEY,
    });
    
    const response = await client.chat.completions.create({
      model: "gpt-4o-mini",  // claude-sonnet-4, gemini-2.0-flash or any model from https://www.helicone.ai/models
      messages: [{ role: "user", content: "Hello!" }]
    });
  4. 4查看日志与用量

    请求发出后,登录 https://us.helicone.ai/dashboard 查看日志、成本、延迟和 token 用量。

  5. 5可选:Docker自托管

    README 提到可用官方 docker-compose 文件本地自托管,但未给出具体命令,需按官方文档操作。

关键配置

配置项必填说明示例
baseURL是把请求转发到 Helicone AI Gateway,替代 OpenAI 官方地址。https://ai-gateway.helicone.ai
apiKey是你的 Helicone API Key,示例中通过环境变量读取。process.env.HELICONE_API_KEY
HELICONE_API_KEY是存放 Helicone API Key 的环境变量名。sk-xxxxxxxx
model否要调用的模型名,可换成 Helicone 支持的任一模型。gpt-4o-mini
messages是标准 OpenAI 格式的消息数组,保持原有写法即可。[{ role: "user", content: "Hello!" }]

如何确认成功

在 https://us.helicone.ai/dashboard 中能看到刚发出的请求日志、成本与延迟,即接入成功。

常见问题

Q:如何获取 Helicone API Key?

A:在 https://helicone.ai/signup 注册账号后即可拿到 API Key,并在 https://us.helicone.ai/credits 添加额度后使用。

Q:通过 Helicone 网关能调用哪些模型?

A:README 说明可通过一个 API 访问 100+ 模型,示例包括 gpt-4o-mini、claude-sonnet-4、gemini-2.0-flash,完整列表见 https://www.helicone.ai/models。

Q:可以自己本地部署 Helicone 吗?

A:可以,README 提到项目支持简单自托管和更新,需使用官方 docker-compose 文件,具体步骤见 https://docs.helicone.ai/getting-started/self-deploy-docker。

Q:在哪里查看请求日志?

A:登录 https://us.helicone.ai/dashboard 即可查看日志,并按自定义属性过滤和查看成本、延迟等指标。

注意事项

  • README 示例基于 OpenAI 官方 TypeScript SDK(import OpenAI from "openai"),使用前请确保项目中已安装并可用该依赖。
  • 接入方式是替换 baseURL 为 https://ai-gateway.helicone.ai,而不是替换整个模型调用代码。
  • API Key 建议通过环境变量 HELICONE_API_KEY 传入,不要硬编码在源码里。
  • Docker 自托管部分 README 只给出 docker-compose 文档链接,未提供具体命令,请以官方文档为准。

核心亮点

  • 一行代码集成,支持多种语言和框架,接入成本极低
  • 内置成本与延迟追踪,可精确到每次请求,便于优化
  • 支持基于真实流量的批量评估和实验,提升模型迭代效率

不足之处

  • 自托管部署配置相对复杂,需依赖 Docker 和外部数据库
  • 高级评估功能可能需付费版,开源版功能有限

适用场景

  • 生产环境 LLM 应用监控与成本管理
  • Prompt 版本迭代与回归测试
  • 多模型或 A/B 测试的在线评估

替代项目

Langfuse、LangSmith、Phoenix (Arize)

上一篇:clearml

下一篇:coze-loop

同类项目推荐

wyoming_openai 开源

把本地语音服务变成 OpenAI 接口,轻松接入 Home Assistant

OpenAI-Compatible Proxy Middleware for the Wyoming Protocol

★ 226 2026-08-09
smfs 开源

让 AI 像 grep 一样,秒搜所有文件内容

A filesystem designed for agents, with SOTA retrieval, automatic memory profiles, sy···

★ 492 2026-08-09
dify-google-cloud-terraform 开源

在 Google Cloud 上快速部署生产级 Dify,自动搞定高可用和弹性伸缩。

Terraform configuration for deploying Dify on Google Cloud with scalability, high av···

★ 260 2026-08-09
semantica 开源

知识串成图谱,AI 回答有据可查能追责

Graph-Native Infrastructure for Context and Accountable AI Systems

★ 14475 2026-08-09
memoket-kite 开源

不搭向量库,让 AI Agent 用更少上下文记住长期对话

An open-source, vector-free long-term memory engine for AI agents, achieving SOTA on···

★ 233 2026-09-12
TrueMemory 开源

给 AI 装上本地持久记忆,自动捕获自动回忆,告别失忆。

The memory your AI should have had from the start. Automatic capture, automatic reca···

★ 385 2026-08-09
muse2api 开源

把 Muse 变成 OpenAI 接口,现有代码改个地址就能用

把 Muse(muse.ai) 逆向封装为 OpenAI 兼容接口,支持对话、文生图、文生视频/图生视频、多···

★ 1087 2026-09-29
fastembed-rs 开源

本地生成向量嵌入,让 Rust 应用秒变语义搜索高手

Rust library for generating vector embeddings and reranking locally!

★ 1051 2026-08-09
kubeai 开源

在 K8s 上声明式部署大模型,自动扩缩容,开箱即用 OpenAI 接口

AI Inference Operator for Kubernetes. The easiest way to serve ML models in producti···

★ 1289 2026-09-17