ollama-js

环境要求

• Node.js 环境，npm 可正常使用
• 本地已安装并运行 Ollama（本库通过它调用模型）
• 浏览器端使用需支持 ESM 的前端构建工具
• 使用云端模型时需要有 Ollama 账号并登录

安装与启动步骤

1. 1安装 ollama 库

   在项目根目录执行，把官方 JS 客户端加入依赖。同时兼容 ESM 与 CommonJS，自带 TypeScript 类型。

   npm i ollama

   复制

2. 2发起一次对话

   导入默认实例，调用 chat 传入 model 和 messages，返回对象里用 message.content 取回复文本。

   import ollama from 'ollama'
   
   const response = await ollama.chat({
     model: 'llama3.1',
     messages: [{ role: 'user', content: 'Why is the sky blue?' }],
   })
   console.log(response.message.content)

   复制

3. 3浏览器环境引入

   不依赖 Node 时改从 ollama/browser 导入浏览器专用模块，其余调用方式与 Node 端一致。

   import ollama from 'ollama/browser'

   复制

4. 4开启流式输出

   调用时加 stream: true，返回 AsyncGenerator，用 for await 逐段读取，适合打字机效果。

   import ollama from 'ollama'
   
   const message = { role: 'user', content: 'Why is the sky blue?' }
   const response = await ollama.chat({
     model: 'llama3.1',
     messages: [message],
     stream: true,
   })
   for await (const part of response) {
     process.stdout.write(part.message.content)
   }

   复制

5. 5使用云端模型

   先用命令行一次性登录，再拉取带 -cloud 后缀的大模型，之后按普通模型调用即可自动卸载到云端。

   ollama signin
   ollama pull gpt-oss:120b-cloud

   复制

关键配置

如何确认成功

脚本运行后能在控制台看到模型返回的回复文本；开启 stream 时会逐段输出内容。

常见问题

注意事项

• 本库是 Ollama 的 JS 客户端，用前需先在本机运行 Ollama 服务，README 未给出 Ollama 本体的安装命令
• 云端模型需要先 ollama signin 完成一次性登录
• 浏览器端务必使用 ollama/browser 入口，不要复用 Node 入口