edge-veda

Flutter 端侧 AI 全家桶，Metal 加速，离线跑通 LLM 与多模态

edge-veda 是一个面向 Flutter 的端侧 AI SDK，旨在让移动和桌面应用直接运行多种 AI 模型，无需依赖云端服务。它解决了开发者在 Flutter 中集成本地 AI 能力时面临的碎片化问题，提供统一的 API 来调用 LLM 推理、视觉识别、语音转文字（STT）、文字转语音（TTS）、图像生成（基于 Stable Diffusion）、嵌入（Embeddings）、RAG 检索增强生成以及函数调用等功能。其核心亮点是利用 iOS/macOS 的 Metal GPU 加速，在端侧实现高效推理，兼顾性能与隐私。项目处于早期阶段（87 星），但覆盖了从模型加载到推理的完整链路，适合希望在 Flutter 应用中快速集成本地 AI 能力的开发者。