catai 是对话助手领域的开源项目，由 withcatai 开发，2023 年首次发布。
它收录于对话助手分类，该分类目前共有 905 个项目，GitHub 星标数为 500。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-04。MIT许可证，本地部署，完全免费。
它主要面向的使用场景是：本地开发环境快速测试LLM效果。同类可对比的替代方案包括 node-llama-cpp、llama-node、LocalAI。
catai
在 Node.js 里一键跑本地大模型，API 简单到飞起
catai 是一个面向 Node.js 开发者的本地 AI 助手运行工具，旨在简化在本地环境中部署和调用大语言模型（LLM）的流程。它基于 llama-cpp 构建，支持 GGUF/GGML 模型格式，通过封装 node-llama-cpp 提供简洁的 API，让开发者无需深入底层 C++ 实现即可快速集成本地 AI 能力。项目解决了本地模型推理的复杂性问题，提供开箱即用的命令行工具和编程接口，支持流式输出、多模型管理等功能，适合需要离线、隐私安全或低成本 AI 方案的场景。目前项目处于早期阶段，星标数不高，但技术方向明确，专注于降低本地 AI 的使用门槛。
开源
free
对话助手
GitHub 星标
★ 500
维护状态
低维护
是否开源
是
定价模式
free
项目数据
分类对话助手
开发团队withcatai
所属国家
定价模式free
价格说明开源项目，MIT许可证，本地部署，完全免费。
访问状态
是否开源是
开源协议MIT
主要语言TypeScript
技术栈/模型ai,ai-assistant,catai,chatbot,chatgpt,chatui,dalai,ggmlv3,gguf,llama-cpp,llm,local-llm,localai,node-llama-cpp,nodejs,openai,vicuna,vicuna-installation-guide,wizardlm
GitHub 星标★ 500
30天Star增速
HF 下载量
上线时间2023-03-25 00:00:00
最近更新2026-09-04 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4
使用教程
核心亮点
- 基于 llama-cpp，支持 GGUF/GGML 格式，兼容主流开源模型
- API 设计简洁，几行代码即可调用本地 LLM，上手快
- 提供命令行工具，无需写代码也能快速体验本地 AI
不足之处
- 项目处于早期，文档和示例较少，社区生态待完善
- 功能相对单一，主要聚焦推理，缺少训练或微调能力
适用场景
- 本地开发环境快速测试 LLM 效果
- 构建离线 AI 应用，保护数据隐私
- 为 Node.js 服务集成低成本 AI 推理能力
替代项目
node-llama-cpp、llama-node、LocalAI
项目介绍
同类项目推荐
open-webui
开源
给本地模型配个漂亮聊天室，全家都能用
User-friendly AI Interface (Supports Ollama, OpenAI API, ...)
prompts.chat
开源
海量好提示词，抄了就能让 AI 更听话
f.k.a. Awesome ChatGPT Prompts. Share, discover, and collect prompts from the commun···
elia
开源
终端里用键盘快速聊 AI，多模型切换不打断思路
A snappy, keyboard-centric terminal user interface for interacting with large langua···
NextChat
开源
一个界面聊遍所有主流AI模型，支持全平台部署，轻快又私密。
✨ Zero-config AI chat assistant. No API key needed — sign up and instantly chat wi···