gpt4local 是基础设施领域的开源项目，由 xtekky 开发，2024 年首次发布。
它收录于基础设施分类，该分类目前共有 1,130 个项目，GitHub 星标数为 146。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-08-24。本地部署，全部功能免费。
它主要面向的使用场景是：离线环境下的私有知识库问答。同类可对比的替代方案包括 LocalAI、Ollama、llama.cpp。
gpt4local
本地跑 GPT，文档问答秒回，OpenAI 接口无缝换
gpt4local 是一个轻量级的本地大语言模型推理工具，提供 OpenAI 兼容的 API 接口，并支持文档问答。它旨在解决用户在使用本地模型时面临的部署复杂、接口不统一、难以结合私有文档等问题。核心能力包括：基于 FastAPI 构建的 OpenAI 风格 API，可无缝替换 OpenAI 服务；支持多种本地模型（如 Llama、GPT4All 等）的加载与推理；内置文档索引与检索功能，允许用户上传文档并进行基于内容的问答；提供简洁的 Web UI 和命令行交互方式。项目采用 Python 编写，依赖较少，适合个人开发者或小团队快速搭建私有 AI 助手，尤其注重数据隐私和离线使用场景。
开源
free
对话助手
GitHub 星标
★ 146
维护状态
低维护
是否开源
是
定价模式
free
项目数据
分类对话助手
开发团队xtekky
所属国家
官网地址https://g4f.ai
定价模式free
价格说明开源项目，本地部署，全部功能免费
访问状态
是否开源是
开源协议
主要语言Python
技术栈/模型ai,chatbot,chatbots,chatgpt,chatgpt-api,documents,gpt,gpt-4,gpt4free,language-model,llm,llm-inference,local,local-llm,openai,openai-api,python
GitHub 星标★ 146
30天Star增速
HF 下载量
上线时间2024-02-29 00:00:00
最近更新2026-08-24 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6
使用教程
核心亮点
- OpenAI 兼容 API，现有应用改个 base_url 就能接入本地模型
- 内置文档问答，支持上传 PDF/TXT 等，直接基于内容对话
- 轻量设计，依赖少，单机部署简单，适合个人或小团队
不足之处
- 早期项目，功能稳定性待验证
- 文档/社区待观察
适用场景
- 离线环境下的私有知识库问答
- 开发测试阶段替代 OpenAI API 降低成本
- 数据敏感场景的本地 AI 助手
替代项目
LocalAI、Ollama、llama.cpp
项目介绍
上一篇：mesh-api
下一篇：llm-inference
同类项目推荐
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···