hailo_model_zoo_genai
Hailo 芯片跑生成式模型的开箱即用模型库
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-11-02 · 当前星标 ★ 118
核心亮点
- 官方维护，模型配置与编译脚本与 Hailo 硬件和运行时版本配套，减少适配踩坑
- 覆盖文本、语音、视觉等多类生成式模型，提供统一清单便于选型
- 附带量化编译与精度评估流程，可在边缘设备上验证部署效果
不足之处
- 强绑定 Hailo 专用硬件，无该硬件时无法实际运行
- 早期项目，模型数量与文档完善度仍在积累
适用场景
- 在 Hailo 边缘加速卡上部署本地文本生成模型
- 为嵌入式设备集成语音识别或语音合成能力
- 在低功耗硬件上做视觉生成模型的量化与推理验证
替代项目
onnxruntime、openvino_notebooks、tensorflow_model_garden
同类项目推荐
mlops-project-template
开源
在Azure上快速搭建企业级MLOps流水线，省时又规范。
Azure MLOps (v2) solution accelerators. Enterprise ready templates to deploy your ma···
awesome-llm-token-optimization
开源
一站式收藏 LLM 省钱秘籍，快速降低 Token 成本
A curated list of strategies, tools, papers, and resources for reducing LLM token co···
agentcat-typescript-sdk
开源
给 MCP 服务器装上监控，一眼看清工具调用数据
AgentCat is an analytics platform for MCP server owners .
coai
开源
一个后台管所有 AI 模型，自动计费与路由，省心省钱
Next Gen Multi-tenant AI One-Stop Solution. Builtin Admin & Billing System. Enterpri···
LLaMA_MPS
开源
在 Mac 上让 LLaMA 跑得更快，用上 GPU 加速推理。
Run LLaMA (and Stanford-Alpaca) inference on Apple Silicon GPUs.
LocalAI
开源
旧电脑不装显卡，也能本地跑起 AI 全家桶
LocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, vi···
ai-memory-gateway
开源
给任何AI加上长期记忆，改个接口就行
给AI加长期记忆的轻量网关 / A lightweight gateway that adds long-term memory to any L···
mlflow
开源
每次实验全程留痕，模型好坏一眼看清不靠猜
The open source AI engineering platform for agents, LLMs, and ML models. MLflow enab···
python-sdk
开源
用 Python 轻松操作 Pinecone 向量库，快速实现向量检索
Official Python SDK for the Pinecone vector database