simd
本站收录 10 个带「simd」标签的 AI 开源项目
turbovecturbovec 是一个基于 TurboQuant 构建的向量索引库，使用 Rust 编写并提供 Python 绑定。它旨在解决大规模向量检索场景下的性能瓶颈问★ 17,466
kimi-k3-in-ckimi-k3-in-c 是一个用纯 C99 语言实现的 Kimi K3 模型推理引擎，它声称能在单颗 CPU 上、仅用 8.24 GB 内存运行一个 2.78★ 10,684
StringZillaStringZilla 是一个跨语言的高性能字符串处理库，专为加速字符串搜索、哈希、排序、编辑距离计算、相似度草图和内存操作而设计。它利用现代 CPU 的 SI★ 3,584
ComputeLibraryComputeLibrary 是 Arm 官方开源的高性能计算库，用 C++ 编写，面向计算机视觉与机器学习场景，针对 Arm CPU 和 GPU 做了深度优化★ 3,205
llama3.javallama3.java 是一个纯 Java 实现的 Llama 3 及后续版本的大语言模型推理库，无需依赖 C/C++ 或 Python 环境，即可在 JVM ★ 817
janasjanas 是一个纯 C 编写的本地大模型推理引擎，核心目标是让超出内存容量的模型也能在普通笔记本上高效运行。它通过把权重放在 NVMe 存储上并按需流式加载，★ 630
franken_ocrfranken_ocr 是一个用纯 Rust 实现的 CPU 端 OCR 推理引擎，目标模型是百度 Unlimited-OCR——一个基于 DeepSeek-O★ 345
VectorRAG.NetVectorRAG.Net 是一个面向 .NET 生态的高性能向量数据库库，专为语义搜索和 RAG（检索增强生成）场景设计。它采用随机超平面 LSH（局部敏感哈★ 164
qwen3-ttsqwen3-tts 是一个纯 C 语言实现的 Qwen3-TTS 文本转语音推理引擎，旨在摆脱 Python 和 PyTorch 的依赖，仅用 C 和 BLAS★ 133
VelesDBVelesDB 是一个面向 AI Agent 的本地优先记忆引擎，用 Rust 编写，打包为约 9MB 的单二进制文件。它把向量检索、图关系和列式存储三种能力融★ 102