krasis

显存不够也能跑大模型，混合推理榨干硬件性能

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 33 🐛 待处理 19 👀 关注 10

GitHub ↗

GitHub 星标 ★ 527

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源项目，本地部署，完全免费

项目预览

项目数据

分类开源模型

开发团队brontoguana

GitHubhttps://github.com/brontoguana/krasis

定价模式🏷️完全免费

价格说明开源项目，本地部署，完全免费

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议NOASSERTION

主要语言C++

技术栈/模型cpu-inference,gguf-model-support,gpu-inference,high-performance-inference,hybrid-inference,inference-engine,inference-optimization,large-language-models,llama-cpp-alternative,llm-inference,mixture-of-experts,transformer

GitHub 星标★ 527

上线时间2026-02-09 00:00:00

代码更新2026-11-08

仓库体积431.0 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数7

项目介绍

Krasis 是一个混合 LLM 运行时，专注于在消费级显存受限的硬件上高效运行更大的模型。它通过将模型层智能卸载到 CPU/内存，并利用 GPU 加速关键计算，实现显存与算力的动态平衡。核心能力包括：支持多种量化方案、自动分层调度、以及针对混合推理的优化内核。项目处于早期阶段，代码以 C++ 为主，旨在为普通玩家提供本地运行大模型的新选择，解决显存不足导致无法运行或速度过慢的问题。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 527

技术标签

cpu-inference inference-engine inference-optimization large-language-models llm-inference

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：高级约 45 分钟部署方式：本地构建 5 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Rust 工具链
CUDA 显卡

安装与启动步骤

1一行装

官方给了安装脚本，也有卸载参数。

curl -sSf https://raw.githubusercontent.com/brontoguana/krasis/main/install.sh | bash

2看命令帮助

先看它支持哪些子命令与模型格式。
```
krasis --help
```
3跑基准

仓库带基准配置，先量一版基线。
```
./dev benchmark tests/qcn-k4v4-hqq8-int4-benchmark.conf
```
4自己编译

要改内核就走本地构建。
```
./dev build
```
5看量化支持

它主打的是低比特量化，重点看这部分。