matmulfreellm

环境要求

• Python 环境（用于 pip 安装）
• PyTorch >= 2.0
• Triton >= 2.2
• einops

安装与启动步骤

1. 1确认 Python 环境

   先确认本机已装好 Python 和 pip，后续 pip 安装命令依赖该环境。建议使用独立虚拟环境，避免与其他项目依赖冲突。

   python --version

   复制

2. 2安装前置依赖

   按 README 要求准备 PyTorch 2.0 及以上、Triton 2.2 及以上、einops 三个依赖，请按官方渠道选择匹配自己 CUDA 的版本。

   pip install -U torch triton einops

   复制

3. 3安装 matmulfreellm

   这是 README 给出的唯一安装命令，直接从 GitHub 仓库源码安装，需保证网络可访问 github.com。

   pip install -U git+https://github.com/ridgerchu/matmulfreellm

   复制

4. 4确认安装结果

   查看包是否已正确安装到当前环境。README 未给出导入示例，因此这里只确认包信息，不做额外推断。

   pip show matmulfreellm

   复制

如何确认成功

pip 安装过程无报错，且执行 pip show matmulfreellm 能正常显示包名与版本信息，即表示安装成功。

常见问题

注意事项

• README 节选中只提供了安装说明，未给出训练与推理的示例代码，使用前请查阅仓库完整文档。
• 安装命令从 GitHub 源码构建，需保证网络可访问 github.com。
• 建议在虚拟环境中安装，避免与系统已有 torch、triton 版本冲突。