LLMUnity

环境要求

• 已安装 Unity 引擎，并能打开/创建 Unity 项目
• 下载默认模型需要网络连接和数 GB 磁盘空间（模型约 GB 级）
• 本地推理需要足够内存；可通过 numGPULayers 把模型层卸载到 GPU
• Android 构建需在 Player Settings 中指定 IL2CPP 脚本后端和 ARM64 目标架构
• iOS 可直接使用默认 Player 设置构建

安装与启动步骤

1. 1打开包管理器

   在 Unity 编辑器中打开 Window > Package Manager，准备安装 LLM for Unity 包。

2. 2从 Asset Store 安装

   打开 LLM for Unity 资源页点击 Add to My Assets，在 Package Manager 下拉选择 Packages: My Assets，下载后 Import。

3. 3或从 Git URL 安装

   在 Package Manager 点击 + 按钮，选择 Add package from git URL，填入仓库地址 https://github.com/undreamai/LLMUnity.git 后点击 Add。

4. 4创建 LLM 对象

   在场景中新建一个空 GameObject，在 Inspector 点击 Add Component 并选择 LLM 脚本。

5. 5下载或加载模型

   在 LLM 组件上点击 Download Model 下载默认模型（约 GB 级），或用 Load model 加载自己的 .gguf 模型。

6. 6配置移动端构建

   如需发布 Android：在 Edit > Project Settings 的 Player > Other Settings 中选择 IL2CPP 与 ARM64；移动端建议使用 1-2B 的 Tiny 模型。

7. 7启用移动端模型下载

   开启 Download on Build 选项，让 App 首次启动时下载模型，可用 await LLM.WaitUntilModelSetup() 等待下载完成。

   await LLM.WaitUntilModelSetup();

   复制

关键配置

如何确认成功

在 Unity 中运行场景，模型下载/加载成功且 LLM 能正常返回回复即表示集成成功；可调用 Warmup 确认就绪。

常见问题

注意事项

• README 只提供 Unity 编辑器内的安装方式（Asset Store 或 Package Manager 的 git URL），没有命令行安装步骤。
• 默认模型体积约 GB 级，下载和推理需要预留磁盘空间与内存。
• 自定义 .gguf 模型可通过 Load model 按钮加载，也可直接复制到 StreamingAssets 文件夹。
• 远程服务器方式的说明在 README 节选中未完整给出，需查阅完整文档。