swiftide

用 Rust 快速构建流式 LLM 应用,索引查询一把梭

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 74 🐛 待处理 14 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 803
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT 许可证,完全免费,可自行部署使用。

项目预览

swiftide 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队bosun-ai
定价模式🏷️完全免费
价格说明开源项目,MIT 许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Rust
技术栈/模型agents,ai,data,genai,indexing,llm,llmops,ml,rag,retrieval-augmented-generation,rust
GitHub 星标★ 803
上线时间2024-06-09 00:00:00
代码更新2026-11-09
仓库体积9.6 MB
本站数据更新2026-11-10
维护状态活跃
收录时间2026-08-09
浏览次数10

项目介绍

swiftide 是一个基于 Rust 的流式索引、查询与智能体 LLM 应用框架。它旨在解决构建 LLM 应用时数据管道复杂、性能瓶颈和开发效率低的问题。核心能力包括:高性能的流式数据处理管道,支持从多种数据源(如 PDF、Markdown、HTML)提取、转换和索引数据;提供查询接口和智能体(Agent)支持,便于构建 RAG 应用和自主代理;利用 Rust 的异步和并行特性,实现高吞吐和低延迟。它采用插件化架构,可灵活扩展,并集成了常见的向量数据库和 LLM 提供商。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 803

技术标签

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:进阶 约 30 分钟 部署方式:本地安装 4 步

环境要求

  • Rust 1.75+
  • 向量库或本地存储
  • LLM API Key

安装与启动步骤

  1. 1装 Rust 工具链

    Rust 写的 Agent 与 RAG 框架。

    curl https://sh.rustup.rs -sSf | sh
  2. 2加依赖

    在 Cargo.toml 里引入即可,不用额外服务。

    cargo add swiftide
  3. 3写第一个索引

    最小示例是读本地目录再建向量索引。

    cargo run --example indexing
  4. 4串流式问答

    它主打流式 RAG,答案边生成边返回。

    cargo run --example streaming

如何确认成功

示例能完成一次检索增强问答,且流式输出不卡顿。

注意事项

  • Rust 版的内存占用与启动速度比 Python 方案好很多。
  • 它同时提供类型化任务图,复杂流程不用手写状态机。
  • 编译慢是常态,第一次留足时间。

核心亮点

  • 基于 Rust 和异步流式处理,索引和查询性能远超 Python 同类框架
  • 提供统一的管道 API,从数据摄取到智能体应用一站式搞定
  • 插件化设计,可轻松集成不同向量数据库和 LLM 服务

不足之处

  • 项目早期,API 可能不稳定,文档和示例相对较少
  • Rust 学习曲线陡峭,对非 Rust 开发者不友好

适用场景

  • 构建高性能 RAG 应用,需要快速处理大量文档
  • 开发流式数据管道,实时索引和查询非结构化数据
  • 构建 Rust 原生的智能体应用,需要与 LLM 深度集成

替代项目

LangChain、LlamaIndex、txtai

上一篇:llm-apps-java-spring-ai

下一篇:VLM2Vec

同类项目推荐

fondbot 开源

用 PHP 快速搭建多平台聊天机器人,省去重复造轮子。

Chatbot framework

★ 102 2026-08-09
copilot-sdk 开源

把 Copilot 智能体塞进你的应用,几行代码就能用

Multi-platform SDK for integrating GitHub Copilot Agent into apps and services

★ 10673 2026-09-15
go-astibob 开源

用 Go 快速搭建能听会说的 AI 助手

Golang framework to build an AI that can understand and speak back to you, and every···

★ 243 2026-08-09
mlx-swift-lm 开源

在苹果设备上本地跑大模型,Swift 直接调用

LLMs and VLMs with MLX Swift

★ 862 2026-09-16
langchain-prefect 开源

让 Langchain 应用拥有生产级工作流编排,自动重试监控不操心

Tools for using Langchain with Prefect

★ 106 2026-08-09
awesome-ai-harness 开源

把大模型变成可靠 Agent 的工程知识地图

The model is the engine; the harness is the car. Curated knowledge on harness engine···

★ 137 2026-09-14
spring-ai-agentx 开源

用 Spring 生态快速搭 Java 版 Claude Code

基于原生 Spring AI 的智能体(Agent)开发框架,提供 ReAct 执行引擎、分层记忆、工具调度···

★ 217 2026-09-22
any-llm 开源

一个接口搞定所有大模型,切换模型不费劲

Communicate with an LLM provider using a single interface

★ 2250 2026-08-09