OllamaSharp

环境要求

• 已安装 .NET SDK（项目基于 .NET Standard 2.0，可被多种 .NET 框架引用）
• 一个可访问的 Ollama 服务，本地或远程均可（README 强调同时支持本地与远程调用）
• 如使用统一接口，需要 Microsoft.Extensions.AI 抽象包
• 想直接体验完整功能时，需要 Git 用于克隆示例仓库

安装与启动步骤

1. 1克隆项目仓库

   README 指出仓库内含功能完整的 demo 应用，先克隆下来可对照示例代码学习。

   git clone https://github.com/awaescher/OllamaSharp.git

   复制

2. 2安装 OllamaSharp 包

   在你的 C# 项目中通过 NuGet 引入 OllamaSharp，它封装了 Ollama 的全部 API 端点。

   dotnet add package OllamaSharp

   复制

3. 3安装 M.E.AI 抽象包

   README 在 Microsoft.Extensions.AI 章节明确要求安装该抽象包，才可把客户端当 IChatClient 使用。

   dotnet add package Microsoft.Extensions.AI.Abstractions

   复制

4. 4创建 Ollama 客户端

   用服务地址与模型名构造 OllamaApiClient，本地或远程 Ollama 都通过同一个地址参数指定。

   var ollama = new OllamaApiClient(arguments.Uri, arguments.Model);

   复制

5. 5当作 IChatClient 使用

   OllamaApiClient 同时实现 IChatClient 与 IEmbeddingGenerator，按需强制转换即可替换其他提供商。

   private static IChatClient CreateChatClient(Arguments arguments)
   {
     if (arguments.Provider.Equals("ollama", StringComparison.OrdinalIgnoreCase))
       return new OllamaApiClient(arguments.Uri, arguments.Model);
     else
       return new OpenAIChatClient(new OpenAI.OpenAIClient(arguments.ApiKey), arguments.Model);
   }

   复制

6. 6运行验证

   运行你的项目，确认能拿到模型返回内容，流式响应会边生成边输出。

   dotnet run

   复制

关键配置

如何确认成功

运行程序后，控制台能收到模型返回内容（流式响应会逐段输出），说明客户端与 Ollama 服务连通。

常见问题

注意事项

• 具体安装命令以 NuGet 包页面为准，README 章节只明确给出了 Microsoft.Extensions.AI.Abstractions 的安装提示。
• 运行前请确认目标 Ollama 服务已启动并可访问，否则客户端无法获得响应。
• 除聊天外，库还覆盖模型列出、拉取、创建、嵌入、流式响应与工具调用等端点，进阶用法见官方文档站。
• 需要 Native AOT 或视觉模型支持时，请查阅文档站对应的专门说明页面。