transformer 第 2 页
本站收录 152 个带「transformer」标签的 AI 开源项目（按 GitHub 星标从高到低，第 2 / 4 页）
Large-Time-Series-ModelTimer 是一个面向时间序列预测的大规模预训练模型项目，由 ICML 2024 论文团队开源。它解决传统时间序列模型难以跨领域泛化、需要针对每个数据集单独训练★ 1,023
Cognitive-Speech-TTS这是微软官方提供的文本转语音（TTS）示例代码集，涵盖多种编程语言，属于Azure认知服务的一部分。它主要解决开发者快速接入微软神经TTS能力的问题，包括标准语★ 1,016
rasa_chatbot_cn这是一个基于 Rasa 最新版本搭建的中文对话系统示例项目，主要解决中文场景下快速构建任务型聊天机器人的问题。项目整合了 BERT 中文预训练模型用于意图分类和★ 984
athenaAthena 是一个基于序列到序列（seq2seq）架构的开源语音处理引擎，专注于语音识别（ASR）和语音合成（TTS）两大核心任务。它采用 C++ 实现，提供★ 965
CogView2CogView2是清华大学与智谱AI联合推出的文本生成图像模型，基于层次化Transformer架构，在CogView基础上显著提升生成速度与图像质量。它解决的★ 952
papers-for-molecular-design-using-DL这是一个面向分子与材料设计的深度学习论文资源汇总仓库，系统整理了使用生成式AI和深度学习进行分子/材料设计的学术文献。它解决的核心问题是：该交叉领域论文分散在机★ 951
GenAI_LLM_timeline这是一个记录ChatGPT、生成式AI和大型语言模型发展历程的时间线项目，以结构化列表形式梳理了从早期模型到GPT系列、Claude、Llama等关键里程碑事件★ 949
nucleotide-transformerNucleotide Transformer 是一个面向基因组学和转录组学的开源基础模型项目，旨在利用大规模预训练 Transformer 架构来学习 DNA ★ 926
Autopilot-NotesAutopilot-Notes 是一个自动驾驶技术学习笔记项目，以解析各模块知识点、整合行业优秀解决方案为核心，帮助作者及读者系统掌握自动驾驶相关技术。内容覆盖★ 840
Spark-X2.5Spark-X2.5 是一个面向端侧设备的开源大模型系列，目标是在手机、笔记本等本地硬件上把智能体（Agent）能力推到极限。它解决的核心问题是：云端大模型调用★ 814
diffusion-forcing-transformerdiffusion-forcing-transformer 是 ICML 2025 论文《History-Guided Video Diffusion》的官方 ★ 710
vidurVidur 是微软开源的 LLM 推理系统模拟器，用于在无需真实 GPU 集群的情况下，大规模、精确地评估大模型推理服务的性能表现。它通过建模算子级计算、显存占★ 703
Transformer-TTSTransformer-TTS 是一个基于 PyTorch 实现的文本转语音（TTS）项目，对应论文《Neural Speech Synthesis with ★ 695
multilspymultilspy 是一个用 Python 编写的 LSP（语言服务器协议）客户端库，旨在帮助开发者快速构建基于语言服务器的应用。它解决了直接与语言服务器通信时★ 612
ARIS-in-AI-OfferARIS-in-AI-Offer 是一个面向 AI 领域秋招的中英双语面试速查表项目，由 ARIS 工具链自动生成。它解决 AI 求职者备考资料分散、更新不及时★ 611
remiRemi 是一个基于 Transformer 的流行钢琴音乐生成工具，源自 ACM Multimedia 2020 论文。它解决了传统音乐生成模型难以捕捉节奏感★ 604
TokenFormerTokenFormer 是一个在 ICLR 2025 上获得 Spotlight 的 Transformer 架构改进方案，核心思想是将模型参数也视为 toke★ 597
open-musiclmopen-musiclm 是 MusicLM 的开源实现，MusicLM 是 Google Research 提出的文本生成音乐模型。该项目在原始论文基础上做了★ 560
SLASLA（Sparse-Linear Attention）是一个面向扩散Transformer（DiT）的推理加速项目，通过引入可微调的稀疏线性注意力机制，在保持★ 551
StyleSwinStyleSwin 是一个基于 Transformer 的高分辨率图像生成模型，发表于 CVPR 2022。它针对传统 GAN 在生成高分辨率图像时依赖卷积结构★ 543
krasisKrasis 是一个混合 LLM 运行时，专注于在消费级显存受限的硬件上高效运行更大的模型。它通过将模型层智能卸载到 CPU/内存，并利用 GPU 加速关键计算★ 522
Open-OmniVCusOmniVCus 是一个面向视频定制生成的开源项目，基于扩散模型（Diffusion Models）和 Transformer 架构，支持通过多模态控制条件（如★ 490
chatgpt-proChatGPT-Pro 是一个将 ChatGPT 与 DALL·E 图像生成能力整合于一体的高级应用，旨在提供一个统一的对话与图像创作平台。它解决了用户需要在多★ 480
Seq2seqChatbotsSeq2seqChatbots 是一个基于 Tensor2Tensor 库的封装工具，旨在简化神经对话机器人的训练、交互与数据生成流程。它解决了从头构建 seq★ 471
JetStreamJetStream 是一个面向 XLA 设备（当前以 TPU 为主，未来计划支持 GPU）的 LLM 推理引擎，专注于提升吞吐量和优化内存使用。它解决了在 TP★ 470
KIVIKIVI 是一个针对大语言模型 KV Cache 的免调优非对称 2bit 量化工具，由 ICML 2024 论文提出。它解决的是长上下文场景下 KV Cach★ 436
Awesome-Attention-Heads这是一个关于大语言模型注意力头可解释性的精选资源库与综述项目。它系统性地整理了针对LLM中注意力头（attention heads）的解读、分析和可视化相关的研★ 414
modelstoremodelstore 是一个 Python 库，用于机器学习模型的版本管理、导出和保存。它解决了模型在训练后难以统一管理和复现的问题，支持将模型保存到本地文件系★ 403
HyperSIGMAHyperSIGMA 是发表在 TPAMI'25 上的高光谱智能理解基础模型官方实现。高光谱图像包含数十至数百个连续光谱波段，传统方法难以有效处理其高维性和冗余★ 392
midi-modelmidi-model 是一个基于 Transformer 架构的符号音乐生成工具，专门处理 MIDI 事件序列。它解决的问题是如何利用深度学习模型自动生成结构合★ 380
create-llmcreate-llm 是一个用 TypeScript 编写的命令行脚手架工具，定位是“语言模型领域的 create-next-app”。它解决的核心问题是：从零★ 370
GiTGiT是一个面向通用视觉任务的Transformer模型，源自ECCV 2024 Oral论文。它通过统一的语言接口，将图像分类、目标检测、图像分割和图像生成等★ 365
open-museopen-muse 是 Google MUSE 模型的开放复现项目，旨在实现快速文本到图像生成。MUSE 是一种基于 transformer 的文本条件图像生成★ 361
swiftLLMswiftLLM 是一个极简但高性能的 LLM 推理系统，专为研究目的设计。它用仅约 2000 行 Python 代码实现了与 vLLM 相当的性能，代码量仅为★ 361
OpenGraphOpenGraph 是一个面向开放图基础模型的开源项目，发表于 EMNLP 2024。它旨在解决传统图神经网络（GNN）在跨图泛化上的不足，即模型在一个图上训练★ 337
Comprehensive-Transformer-TTS这是一个基于非自回归Transformer的文本转语音（TTS）项目，集成了多种SOTA Transformer架构，并支持有监督和无监督两种时长建模方式。它解★ 327
ecg-fmecg-fm 是一个基于深度学习的心电图（ECG）分析基础模型，旨在为心电图数据提供通用的特征表示。它解决了传统心电图分析依赖人工特征工程和特定任务模型、泛化能★ 322
llmiollmio 是一个用 TypeScript 编写的统一 LLM 网关，旨在解决多模型接入时的管理混乱问题。它提供权重负载均衡，让开发者可以按比例将请求分发到不同★ 320
chat.petals.devchat.petals.dev 是一个基于 Petals 分布式推理系统的聊天机器人 Web 应用，同时提供 HTTP 和 WebSocket 接口，用于大语言★ 319
memlayermemlayer 是一个为大型语言模型（LLM）提供即插即用记忆能力的 Python 库，旨在用三行代码为任何模型快速添加持久化、智能且类人的记忆与回忆功能。它★ 302
embodied-agentsembodied-agents 是一个旨在将最先进的 Transformer 模型无缝集成到机器人技术栈中的开源项目。它主要解决机器人与大模型（如视觉语言模型）★ 302
hongbomiao.comhongbomiao.com 是一个个人研发实验室，旨在促进知识共享。它由 Python 驱动，结合了现代基础设施技术，构建了一个集研究、开发与知识传播于一体的★ 299
open-genieopen-genie 是 DeepMind 论文《Genie: Generative Interactive Environments》的非官方 PyTorch★ 296
modular-diffusionmodular-diffusion 是一个基于 PyTorch 的模块化扩散模型设计与训练库。它旨在解决扩散模型研究中的代码复用和灵活定制问题，提供高度解耦的组★ 292
Titans---Learning-to-Memorize-at-Test-TimeTitans 是一个面向 Titans 架构（arXiv:2501.00663）的多智能体演示平台，Titans 是一种能在测试时学习记忆的神经网络，旨在解决传★ 291
whizwhiz 是一个终端 AI 助手，旨在将大语言模型的能力直接嵌入命令行工作流。它解决开发者在终端中频繁切换上下文、查询文档或编写脚本时的效率问题，通过自然语言交★ 277
tensorflow-ml-nlp-tf2这是一个面向韩语自然语言处理（NLP）的学习与实践项目，基于TensorFlow 2和机器学习技术，提供了从基础（如逻辑回归）到前沿（如BERT和GPT-3）的★ 272
TSLANetTSLANet 是一个面向时间序列任务的轻量级基础模型，发表于 ICML 2024。它结合卷积操作与自适应频谱分析，旨在统一处理分类、回归、异常检测和插补等多种★ 268
modern-llm-notebook这是一个从零开始构建现代大语言模型的实战课程，基于 PyTorch 和 Jupyter Notebook 实现。项目包含 26 个可运行的 Notebook，覆★ 263
MusicTransformer-PytorchMusicTransformer-Pytorch 是一个基于 PyTorch 框架实现的音乐生成项目，针对 MaestroV2 数据集编写，复现了 Google★ 262