distributed-computing
本站收录 15 个带「distributed-computing」标签的 AI 开源项目
ColossalAIColossalAI是一个旨在降低大型AI模型使用门槛的开源项目，专注于让大模型的训练、微调和推理更便宜、更快速、更易获取。它解决了大模型开发中显存不足、训练效★ 41,445
catalystCatalyst 是一个面向深度学习研究与开发的 Python 框架，旨在加速从实验设计到模型部署的全流程。它解决了深度学习项目中代码重复、实验管理混乱、复现困★ 3,387
alpaAlpa 是一个用于训练和服务大规模神经网络的计算框架，其核心目标是自动并行化。它解决了用户在分布式系统上运行超大模型时面临的并行策略选择复杂性问题，通过自动将★ 3,178
distributed-llamadistributed-llama 是一个用 C++ 实现的开源项目，旨在将家庭中的多台设备（如电脑、树莓派等）组成一个分布式集群，共同运行 Llama 大语言★ 3,082
beta9beta9 是一个面向 AI 推理和计算场景的超快无服务器 GPU 平台，用 Go 语言实现。它解决了传统 GPU 部署中资源利用率低、冷启动慢、环境隔离复杂等★ 1,798
AI-HordeAI-Horde 是一个众包式分布式集群，用于 AI 绘画和文本生成。它解决了个人算力不足的问题，通过志愿者贡献 GPU/CPU 资源，构建一个免费、开放的去中★ 1,588
taOStaOS 是一个自托管的 AI 智能体操作系统，旨在让用户的记忆、聊天、智能体和文件全部保存在自有硬件上，默认离线运行，也可选择接入云端。它解决了用户对数据主权★ 553
ReaLHFReaLHF 是一个面向大语言模型的高效 RLHF（基于人类反馈的强化学习）训练框架，通过参数重新分配技术显著提升训练效率。它解决了传统 RLHF 训练中计算资★ 336
AsyncDiffAsyncDiff 是一个针对扩散模型（Diffusion Models）的推理加速工具，核心思想是通过异步去噪（Asynchronous Denoising）★ 214
artbot-for-stable-diffusionArtBot 是一个面向 Stable Diffusion 的前端图形界面，专门用于与 AI Horde 分布式集群交互。它解决了普通用户难以直接使用分布式算力★ 188
stable-diffusion-webui-distributed这是一个将多个 stable-diffusion-webui 实例串联起来，实现分布式图像生成的插件。它解决单机 GPU 显存不足、生成速度慢的问题，通过将多个★ 184
LLMWebCrawlerLLMWebCrawler 是一个基于大语言模型的智能网络爬虫，使用 Ray 实现分布式并行抓取，并借助 Huggingface 的嵌入模型将网页内容向量化后存★ 107
get-beamget-beam 是一个面向 AI 基础设施的早期开源项目，旨在让用户以无服务器（Serverless）方式运行 GPU 推理和训练任务。它解决了传统 GPU ★ 104
easydisteasydist 是一个面向多生态系统的自动化并行化系统与基础设施，旨在简化分布式训练和推理的复杂性。它通过自动识别模型中的并行化机会，并生成高效的并行执行方案★ 81
remote_compilation_helper这是一个用 Rust 编写的远程编译辅助工具，专门为 AI 编程代理设计。它通过拦截 cargo/gcc 等构建命令，将编译任务透明地转发到远程工作机执行，并把★ 63