llm

环境要求

• Python 环境，可用 pip 安装（项目是 Python CLI 工具兼库）
• macOS 用户也可用 Homebrew 安装（官方有警告说明）
• 推荐使用 pipx 或 uv 做隔离安装，避免污染全局环境
• 调用远程模型需要对应服务商的 API Key，例如 OpenAI API Key
• 如需本地运行模型，需先有 Ollama 等模型运行环境

安装与启动步骤

1. 1安装 llm

   任选一种方式安装：pip、Homebrew、pipx 或 uv。普通用户建议先用 pip 安装，最省事。

   pip install llm

   复制

2. 2备选安装方式

   如果 pip 安装不方便或想隔离环境，可用 pipx 或 uv 安装，效果与 pip 一致。

   pipx install llm
   uv tool install llm

   复制

3. 3运行第一条提示

   确认有 OpenAI API Key 后，直接在终端提问。README 示例默认模型为 gpt-5.6-luna，无需写代码。

   llm "Ten fun names for a pet pelican"

   复制

4. 4进入交互对话

   用 llm chat 开启多轮聊天，输入 exit 或 quit 退出，支持 !multi、!edit、!fragment 等指令。

   llm chat -m gpt-4.1

   复制

5. 5免安装调用端点

   不想先安装时可用 uvx 直接运行，指向任意 OpenAI 兼容的 Chat Completions 端点，例如本地 LM Studio。

   uvx llm openai endpoint http://localhost:1234/v1 
     -m google/gemma-4-12b 
     "What is the capital of France?"

   复制

6. 6接入本地 Ollama

   安装 Ollama 插件并拉取模型，之后即可像调用云端模型一样用 -m 指定本地模型提问。

   llm install llm-ollama
   ollama pull llama3.2:latest
   llm -m llama3.2:latest 'What is the capital of France?'

   复制

关键配置

如何确认成功

执行 llm "Ten fun names for a pet pelican" 能正常返回模型生成的文本，即说明安装与调用链路可用。

常见问题

注意事项

• Homebrew 安装方式官方附有警告说明，若无特殊需要优先用 pip、pipx 或 uv。
• README 示例中的默认模型名（如 gpt-5.6-luna）可能随版本变化，请以实际安装版本为准。
• 访问需要鉴权的 OpenAI 兼容端点时，记得追加 --key your-api-key。
• 更多用法（日志、嵌入、结构化提取、模板）见官方文档 llm.datasette.io。