ai-inference
在 GitHub 流水线里一键调用 AI 模型
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-10-25 · 当前星标 ★ 521
核心亮点
- 以 Action 形式封装模型调用，workflow 中几行配置即可接入，无需自建请求层
- 复用 GitHub 平台认证与权限体系，减少额外密钥管理成本
- TypeScript 实现、代码量小，便于阅读源码和按需二次开发
不足之处
- 强依赖 GitHub Models 服务，模型选择与可用性受平台限制
- 早期项目，功能相对单一，缺少复杂编排与多步推理能力
- 文档与社区生态仍在积累，遇到问题可参考的案例较少
适用场景
- 在 Pull Request 流程中自动生成变更摘要或审查提示
- 在 CI 中批量处理文本内容，如生成发布说明、整理 issue 标签
- 定时任务中调用模型完成仓库文档的自动更新与校对
替代项目
actions/ai-inference、ollama/ollama、langchain
同类项目推荐
mlplatform-workshop
开源
用示例代码快速搭建机器学习平台骨架
Example code for a basic ML Platform based on Pulumi, FastAPI, DVC, MLFlow and more
zzz-api
开源
免海外账号和银行卡，直接调用 GPT/Claude/Gemini 等大模型 API
企业级稳定的OpenAI、Claude、Gemini等的API接口-For企业和开发者。OpenAI的api proxy，支···
tt-metal
开源
用 Tenstorrent 硬件跑 AI 模型，底层算子与内核编程一手掌控
:metal: TT-NN operator library, and TT-Metalium low level kernel programming model.
Friday
开源
给 AI 代理装上企业级控制中枢，安全编排、可控运行
Private control plane for AI agents
Bailo
开源
一站式管理 ML 模型全生命周期，让模型资产安全共享、合规可溯。
Managing the lifecycle of machine learning to support scalability, impact, collabora···
LMCache
开源
复用KV缓存，让LLM推理快如闪电
LMCache: Supercharge Your LLM with the Fastest KV Cache Layer
lemonade
开源
一键在本地 GPU/NPU 上跑优化大模型，数据不出门
Lemonade helps users discover and run local AI apps by serving optimized LLMs right ···
terraform-genai-rag
开源
填几个变量，云上 RAG 环境一键搭好
Deploys a Generative AI RAG solution
local-studio
开源
一个面板管住本地所有大模型推理引擎
Control panel for VLLM, Sglang, llama.cpp, exllamav3