krasis 是基础设施领域的开源项目，由 brontoguana 开发，是 2026 年新上线的项目。
它收录于基础设施分类，该分类目前共有 1,133 个项目，GitHub 星标数为 521。
项目保持着较活跃的维护节奏，最近一次代码更新于 2026-09-15。本地部署，完全免费。
它主要面向的使用场景是：在8GB显存显卡上运行13B级别模型。同类可对比的替代方案包括 llama.cpp、Ollama、vLLM。
项目数据
分类开源模型
开发团队brontoguana
所属国家
定价模式free
价格说明开源项目，本地部署，完全免费
访问状态
是否开源是
开源协议NOASSERTION
主要语言C++
技术栈/模型cpu-inference,gguf-model-support,gpu-inference,high-performance-inference,hybrid-inference,inference-engine,inference-optimization,large-language-models,llama-cpp-alternative,llm-inference,mixture-of-experts,transformer
GitHub 星标★ 521
30天Star增速
HF 下载量
上线时间2026-02-09 00:00:00
最近更新2026-09-15 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6
使用教程
核心亮点
- 混合推理架构，显存不足时自动卸载层到内存，降低硬件门槛
- 针对消费级 GPU 优化，支持量化模型，提升推理速度
- C++ 实现，性能潜力大，适合底层集成和二次开发
不足之处
- 早期项目，文档和社区生态待观察
- 安装和配置复杂度较高，对普通用户不友好
适用场景
- 在 8GB 显存显卡上运行 13B 级别模型
- 本地离线推理，数据隐私敏感场景
- 边缘设备或低配电脑上的 AI 助手部署
替代项目
llama.cpp、Ollama、vLLM
项目介绍
上一篇：ai-optimizer
下一篇：kvpress
同类项目推荐
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
[DEPRECATED / UNMAINTAINED] Multi-account gateway. No longer maintained; fork it and···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···