项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 62024
使用教程
环境要求
- Python 3.10 或以上
- macOS 或 Linux 系统(其他系统需在虚拟机中运行)
- Docker(可选,用于容器化运行)
安装与启动步骤
-
1安装 Pathway
在 macOS 或 Linux 上使用 pip 安装最新版 Pathway 框架。注意 Python 版本需 3.10 及以上。
pip install -U pathway -
2编写管道脚本
新建脚本文件(如 main.py),导入 pathway 并搭建处理管道,最后调用 pw.run() 启动计算。
import pathway as pw # 在这里编写你的处理管道 pw.run() -
3本地运行脚本
像普通 Python 脚本一样运行。内置监控面板可查看各连接器发送的消息数与系统延迟。
python main.py -
4用 pathway 命令启动
也可用 pathway 包装命令启动,原生支持多线程;用 --threads 指定线程数,例如 3 个线程。
pathway spawn --threads 3 python main.py -
5Docker 运行单文件
单文件项目无需写 Dockerfile,直接挂载当前目录到 /app,用官方镜像执行脚本即可。
docker run -it --rm --name my-pathway-app -v "$PWD":/app pathwaycom/pathway:latest python my-pathway-app.py -
6用 Dockerfile 构建
也可基于标准 Python 镜像写 Dockerfile:安装 Pathway、拷贝脚本并设为启动命令。
FROM --platform=linux/x86_64 python:3.10 RUN pip install -U pathway COPY ./pathway-script.py pathway-script.py CMD ["python", "-u", "pathway-script.py"]
如何确认成功
脚本运行后终端无报错,且监控 dashboard 能显示各连接器的消息数量与系统延迟日志。
常见问题
Q:Windows 系统可以安装吗?
A:不可以。Pathway 目前仅支持 macOS 和 Linux,其他系统的用户需要在虚拟机上运行。
Q:如何让程序使用多线程?
A:用 pathway 命令启动并指定线程数,例如 pathway spawn --threads 3 python main.py。
Q:不想写 Dockerfile 怎么用 Docker 跑?
A:单文件项目可直接用官方镜像执行:docker run -it --rm -v "$PWD":/app pathwaycom/pathway:latest python 你的脚本.py。
Q:怎样快速创建一个 Pathway 项目?
A:官方提供了 cookiecutter 模板,仓库地址为 https://github.com/pathwaycom/cookiecutter-pathway。
Q:没有本地环境可以体验吗?
A:可以在 Google Colab 中运行 Pathway 示例,链接见 README 的 Getting Started 部分。
注意事项
- Pathway 仅在 macOS 与 Linux 上可用,Windows 用户需借助虚拟机。
- pw.run() 是启动流式计算的必需调用,缺少它管道不会执行。
- 官方 Dockerfile 示例使用 platform 为 linux/x86_64 的 python:3.10 基础镜像。
- 更多示例代码可在项目仓库的 examples 目录中查看。
核心亮点
- 批流统一:同一套 Python 代码既能回填历史数据,又能持续处理实时增量,不用维护两套管道
- 基于 Rust 的增量计算引擎,数据更新时只重算变化部分,实时场景延迟和资源开销更低
- 原生支持 LLM 管道与 RAG,文档索引可随数据源变化自动更新,省去手动重建向量库
不足之处
- 生态和连接器数量相比 Flink、Spark 等成熟大数据框架仍偏少
- Python 层抽象较重,深度调优和排查底层问题时需要理解其引擎机制
适用场景
- 实时风控与异常检测:持续消费 Kafka 事件流,秒级更新指标并触发告警
- 企业知识库 RAG:把内部文档和数据库变更实时同步进向量索引,问答结果始终最新
- IoT 数据分析:对设备上报的流式数据做增量聚合与看板展示,兼顾历史回算
替代项目
Apache Flink、Apache Spark、Bytewax
下一篇:llm-d-kv-cache
同类项目推荐
LiteRT-LM
开源
让大模型跑在手机端,离线低延迟还护隐私
LiteRT-LM is Google's production-ready, high-performance, open-source inference fram···
opencodex
开源
一个网关,让 Codex 和 Claude Code 用上任意大模型
Universal provider proxy for OpenAI Codex & Claude Code — use any LLM (Claude, Gemi···
ComputeLibrary
开源
Arm 平台上的 CV/ML 算子加速库,榨干 CPU 与 GPU 性能。
The Compute Library is a set of computer vision and machine learning functions optim···
voiceblender
开源
用 API 快速搭建语音 AI 应用,通话、混音、识别全搞定。
A programmable Voice AI platform: SIP and WebRTC call control, multi-party mixing, r···
OM1
开源
让机器人开发像拼积木,硬件接口统一,AI 接入即插即用。
Modular AI HAL (Hardware Abstraction Layer) for Robots
llm-d-inference-sim
开源
不装 GPU 不跑模型,秒起一个假 vLLM 服务
A lightweight, configurable, and real-time simulator designed to mimic the behavior ···
OmniKey-AI-Unified-Key-Manager
开源
统一管理多平台 LLM 密钥,自动故障转移,调用更稳更省心。
A self-hosted LLM proxy and failover gateway supporting OpenAI & Gemini compatible e···
vidur
开源
不买 GPU,也能预演大模型推理性能与容量
Accurate, large-scale, and extensible simulator for LLM inference Systems
octopus
开源
一个网关管所有大模型,密钥、路由、计费全搞定
One Hub All LLMs For You | 为个人打造的 LLM API 聚合网关
