aws-genai-llm-chatbot

在AWS上一键部署多模型多RAG的生产级聊天机器人

这是一个基于AWS CDK构建的多LLM与多RAG聊天机器人解决方案，旨在帮助企业快速在AWS上部署生产级生成式AI助手。它解决了单一模型或检索方案难以满足多样化业务需求的问题，核心能力包括：集成Amazon Bedrock、Anthropic Claude、HuggingFace、OpenAI、Meta、AI21、Cohere、Mistral等多种主流大语言模型，支持灵活切换与对比；提供多种RAG引擎（如Aurora、Kendra、OpenSearch），可针对不同数据源优化检索效果；通过CDK基础设施即代码实现一键部署，涵盖前端、API、向量数据库等全栈组件，并内置流式响应、会话管理、用户反馈等生产功能。项目模块化设计清晰，适合作为企业AI应用的起点或参考架构。

开源 unknown 对话助手

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 1402

维护状态维护中

是否开源是

定价模式 unknown

项目数据

分类对话助手

开发团队aws-samples

所属国家

官网地址https://aws-samples.github.io/aws-genai-llm-chatbot

GitHubhttps://github.com/aws-samples/aws-genai-llm-chatbot

定价模式unknown

价格说明定价信息待确认

访问状态

是否开源是

开源协议MIT-0

主要语言TypeScript

技术栈/模型amazon-bedrock,aurora,aws,bedrock,cdk,chatbot,claude,genai,huggingface,idefics,kendra,langchain,llm,opensearch,opensearch-serverless,pgvector,sagemaker,semantic-search,vectordb

GitHub 星标★ 1402

30天Star增速

HF 下载量

上线时间2023-06-16 00:00:00

最近更新2026-09-22 00:00:00

维护状态维护中

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数4

使用教程

难度：进阶约 45 分钟部署方式：命令行工具 4 步

环境要求

AWS 账户，且具备部署所需权限
已配置凭证的 AWS CLI
Node.js 18+ 与 npm
Python 3.8+
AWS CDK CLI（兼容 aws-cdk-lib 2.206.0 或更高版本）

安装与启动步骤

1检查本地环境

确认本机已安装 Node.js 18+、Python 3.8+，并用 AWS CLI 配置好账号凭证，否则后续 CDK 无法部署。
2安装 CDK CLI

全局安装或更新 AWS CDK 命令行工具，建议用官方 latest 版本以避免与 aws-cdk-lib 版本不兼容。
```
npm install -g aws-cdk@latest
```
3验证 CDK 版本

查看已安装的 CDK CLI 版本，需与 aws-cdk-lib 2.206.0 或更高版本兼容，版本过低请重新安装。
```
cdk --version
```
4执行自动化部署

本方案通过 AWS CDK 与 SeedFarmer 全自动部署到你的 AWS 账户，会创建前端、API、向量库等资源。

如何确认成功

CDK/SeedFarmer 部署流程正常结束后，打开输出的访问地址进入 React Web UI，与聊天机器人对话确认可用。

常见问题

Q：CDK CLI 版本不兼容怎么办？

A：需使用与 aws-cdk-lib 2.206.0 或更高版本兼容的 CDK CLI，执行 npm install -g aws-cdk@latest 更新后重新部署。

Q：部署需要哪些前置条件？

A：需要 AWS 账户及相应权限、配置好凭证的 AWS CLI、Node.js 18+ 与 npm、Python 3.8+，以及兼容版本的 CDK CLI。

Q：支持哪些大语言模型？

A：支持 Amazon Bedrock（如 Claude、Llama 2）、SageMaker 及自定义模型端点，也可通过 GenAIEH Gateway 接入更多模型。

Q：部署方式是否手动逐步操作？

A：不是，整个部署过程由 AWS CDK 和 SeedFarmer 全自动化完成。

注意事项

项目直接部署到你自己的 AWS 账户，会产生相应 AWS 资源与调用费用。
README 未给出完整的克隆与部署命令，实际部署请以官方仓库和文档说明为准。
安装 CDK CLI 后务必用 cdk --version 确认版本满足兼容要求。

核心亮点

深度集成AWS生态，CDK部署自动化，从基础设施到前端全栈覆盖
支持8+主流LLM和多种RAG引擎，可灵活组合对比，降低模型锁定风险
内置流式输出、会话历史、用户反馈等生产级功能，非Demo级代码

不足之处

依赖AWS服务，非AWS环境无法直接使用，云厂商锁定明显
配置和部署复杂度较高，需要熟悉CDK和AWS网络、权限等知识

适用场景

企业快速搭建内部知识库问答助手，对接现有AWS基础设施
多模型效果对比评估，选择最适合业务场景的LLM和RAG组合
作为生成式AI应用参考架构，加速从概念验证到生产落地

替代项目

LangChain、Haystack、Dify

项目介绍

aws-genai-llm-chatbot 是对话助手领域的开源项目，由 aws-samples 开发，2023 年首次发布。

在全站 13,014 个收录项目中，它的 GitHub 星标数（1,402）位列前 30%，在对话助手分类中处于中上游。

项目仍在小幅维护中，最近一次代码更新于 2026-09-22。

它主要面向的使用场景是：企业快速搭建内部知识库问答助手，对接现有AWS基础设施。同类可对比的替代方案包括 LangChain、Haystack、Dify。

上一篇：Dragonfire

下一篇：Bard