Star-Attention
长序列推理提速，让大模型轻松处理超长文本。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 392
核心亮点
- 理论创新：提出星形注意力分解，突破标准注意力二次复杂度限制
- 实现完整：提供可直接使用的 PyTorch 代码，便于集成到现有模型
- 针对性强：专攻长序列场景，解决实际部署中的内存和延迟痛点
不足之处
- 早期项目，文档和社区支持待观察
- 尚未在主流模型上验证广泛兼容性，可能需适配
适用场景
- 长文档问答与摘要生成
- 多轮对话中保持长上下文记忆
- 代码生成与仓库级理解
替代项目
FlashAttention、Longformer、Sparse Transformer
上一篇：AI-Infra-from-Zero-to-Hero
下一篇：Cypher.js
同类项目推荐
Fooocus-API
开源
把 Fooocus 变成 API，一行代码接入图像生成
FastAPI powered API for Fooocus
InferrLM
开源
在手机本地跑 AI，无需联网，保护隐私
InferrLM - On-device AI for iOS & Android
worker-vllm
开源
在 Runpod 上一键部署 vLLM 推理端点，按需用 GPU
The Runpod worker template for serving our large language model endpoints. Powered b···
ollama-api
开源
一键部署本地大模型和图像生成的 RESTful API，快速集成到你的应用。
Deploy a RESTful API Server to interact with Ollama and Stable Diffusion
airweave
开源
各种数据源一次接好，智能体随时有料可查
Open-source context retrieval layer for AI agents
mlops-workload-orchestrator
开源
在AWS上标准化编排ML管道，让模型上线更规范高效
The MLOps Workload Orchestrator solution helps you streamline and enforce architectu···
rust-mlops-template
开源
用 Rust 搭建高性能 MLOps 基础设施，告别 Python 性能瓶颈
A work in progress to build out solutions in Rust for MLOPs
queryflux
开源
一个入口智能分发 SQL 到多个查询引擎
Multi-engine and Agentic AI SQL query router in Rust for all data platforms and lake···
helix-foundry
开源
把公司数据在本机连成一张关系网，随手查
Connect your company's data, let an agent draft an ontology over it, and load it int···