llmman

把模型装进 OCI 镜像，任意 Agent 一键换模型跑

llmman 是一个用 Rust 编写的模型与 Agent 运行管理工具，核心思路是把大语言模型当作 OCI 镜像来存储和分发，让模型像 Docker 镜像一样可拉取、可版本化、可复用。它解决的是本地跑模型和 Agent 时环境配置繁琐、模型文件散落各处、不同推理后端切换成本高的问题。核心能力包括：统一管理 llama.cpp、MLX、vLLM 等推理后端的模型资产；通过 OCI 标准让模型具备可移植性，方便在团队或机器间共享；支持把 Claude Code、Codex、opencode 等 Agent 框架接到任意模型上运行，实现 Agent 与模型解耦。项目处于早期阶段，星标约 500，适合喜欢折腾本地推理、想统一管理多后端模型和 Agent 的开发者。