几分钟部署任意 AI 模型到本地或云端
llamafarm 是一个面向 AI 应用的一站式部署工具，旨在让用户能够在几分钟内将任意 AI 模型、智能体、数据库、RAG 流水线等部署到本地或远程环境。它通过简化配置和自动化流程，解决了 AI 项目从开发到生产环境部署的复杂性问题。核心能力包括：支持多种主流模型（如 Llama、Mistral、Gemma、Grok 等）的快速部署，提供边缘计算支持，内置模型微调（finetuning）工具，以及与 OpenAI 等 API 的兼容接口。用户可以通过命令行或配置文件定义部署拓扑，实现一键启动。项目处于早期阶段，但已具备基本的 MLOps 功能，适合个人开发者和小团队快速验证 AI 应用。
Ollama、vLLM、Dify
llamafarm 是基础设施领域的开源项目，由 llama-farm 开发，2025 年首次发布。
在全站 13,090 个收录项目中，它的 GitHub 星标数（838）位列前 30%，在基础设施分类中处于中上游。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。官网存在但定价信息不明确，需进一步确认。从国内网络环境看，可直接访问。
它主要面向的使用场景是：个人开发者快速搭建本地AI原型环境。同类可对比的替代方案包括 Ollama、vLLM、Dify。
上一篇：myriade
下一篇：ai00_server
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···
