aws-genai-llm-chatbot

在AWS上一键部署多模型多RAG的生产级聊天机器人

开源 🏷️定价信息待确认 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 435 🐛 待处理 32 👀 关注 26 ⚠️ 作者已归档(停止维护)
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 1399
维护状态 低维护
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

aws-genai-llm-chatbot 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队aws-samples
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT-0
主要语言TypeScript
技术栈/模型amazon-bedrock,aurora,aws,bedrock,cdk,chatbot,claude,genai,huggingface,idefics,kendra,langchain,llm,opensearch,opensearch-serverless,pgvector,sagemaker,semantic-search,vectordb
GitHub 星标★ 1399
上线时间2023-06-16 00:00:00
代码更新2026-06-30
仓库体积97.4 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

这是一个基于AWS CDK构建的多LLM与多RAG聊天机器人解决方案,旨在帮助企业快速在AWS上部署生产级生成式AI助手。它解决了单一模型或检索方案难以满足多样化业务需求的问题,核心能力包括:集成Amazon Bedrock、Anthropic Claude、HuggingFace、OpenAI、Meta、AI21、Cohere、Mistral等多种主流大语言模型,支持灵活切换与对比;提供多种RAG引擎(如Aurora、Kendra、OpenSearch),可针对不同数据源优化检索效果;通过CDK基础设施即代码实现一键部署,涵盖前端、API、向量数据库等全栈组件,并内置流式响应、会话管理、用户反馈等生产功能。项目模块化设计清晰,适合作为企业AI应用的起点或参考架构。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1399

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:进阶 约 45 分钟 部署方式:命令行工具 4 步

环境要求

  • AWS 账户,且具备部署所需权限
  • 已配置凭证的 AWS CLI
  • Node.js 18+ 与 npm
  • Python 3.8+
  • AWS CDK CLI(兼容 aws-cdk-lib 2.206.0 或更高版本)

安装与启动步骤

  1. 1检查本地环境

    确认本机已安装 Node.js 18+、Python 3.8+,并用 AWS CLI 配置好账号凭证,否则后续 CDK 无法部署。

  2. 2安装 CDK CLI

    全局安装或更新 AWS CDK 命令行工具,建议用官方 latest 版本以避免与 aws-cdk-lib 版本不兼容。

    npm install -g aws-cdk@latest
  3. 3验证 CDK 版本

    查看已安装的 CDK CLI 版本,需与 aws-cdk-lib 2.206.0 或更高版本兼容,版本过低请重新安装。

    cdk --version
  4. 4执行自动化部署

    本方案通过 AWS CDK 与 SeedFarmer 全自动部署到你的 AWS 账户,会创建前端、API、向量库等资源。

如何确认成功

CDK/SeedFarmer 部署流程正常结束后,打开输出的访问地址进入 React Web UI,与聊天机器人对话确认可用。

常见问题

Q:CDK CLI 版本不兼容怎么办?

A:需使用与 aws-cdk-lib 2.206.0 或更高版本兼容的 CDK CLI,执行 npm install -g aws-cdk@latest 更新后重新部署。

Q:部署需要哪些前置条件?

A:需要 AWS 账户及相应权限、配置好凭证的 AWS CLI、Node.js 18+ 与 npm、Python 3.8+,以及兼容版本的 CDK CLI。

Q:支持哪些大语言模型?

A:支持 Amazon Bedrock(如 Claude、Llama 2)、SageMaker 及自定义模型端点,也可通过 GenAIEH Gateway 接入更多模型。

Q:部署方式是否手动逐步操作?

A:不是,整个部署过程由 AWS CDK 和 SeedFarmer 全自动化完成。

注意事项

  • 项目直接部署到你自己的 AWS 账户,会产生相应 AWS 资源与调用费用。
  • README 未给出完整的克隆与部署命令,实际部署请以官方仓库和文档说明为准。
  • 安装 CDK CLI 后务必用 cdk --version 确认版本满足兼容要求。

核心亮点

  • 深度集成AWS生态,CDK部署自动化,从基础设施到前端全栈覆盖
  • 支持8+主流LLM和多种RAG引擎,可灵活组合对比,降低模型锁定风险
  • 内置流式输出、会话历史、用户反馈等生产级功能,非Demo级代码

不足之处

  • 依赖AWS服务,非AWS环境无法直接使用,云厂商锁定明显
  • 配置和部署复杂度较高,需要熟悉CDK和AWS网络、权限等知识

适用场景

  • 企业快速搭建内部知识库问答助手,对接现有AWS基础设施
  • 多模型效果对比评估,选择最适合业务场景的LLM和RAG组合
  • 作为生成式AI应用参考架构,加速从概念验证到生产落地

替代项目

LangChain、Haystack、Dify

上一篇:Dragonfire

下一篇:Bard

同类项目推荐

dialoqbase 开源

拖拽配置,快速生成多模型聊天机器人

Create chatbots with ease

★ 1788 2026-08-09
cortana 开源

用 ChatGPT 和语音技术,打造你的私人语音助理

Your own personal assistant thanks to chat-gpt, whisper, and elevenlabs tts

★ 53 2026-08-09
google-bard-api 开源

把 Google Bard 变成标准 API,几行代码接入你的应用

This project provides a FastAPI wrapper for interacting with Google Bard, a conversa···

★ 249 2026-08-09
gort 开源

用聊天框安全执行运维命令,让协作更高效

Gort is a chatbot framework designed from the ground up for chatops.

★ 397 2026-08-09
delbot 开源

动动嘴就能搜新闻、查知识,还能读给你听

It understands your voice commands, searches news and knowledge sources, and summari···

★ 211 2026-08-09
seq2seq-chatbot 开源

用TensorFlow快速搭建自己的seq2seq聊天机器人

A sequence2sequence chatbot implementation with TensorFlow.

★ 99 2026-08-09
awesome-chatgpt 开源

一站式找全ChatGPT好用的开源工具

A curated list of awesome ChatGPT software.

★ 328 2026-08-09
chatbot 开源

记住你的俄语聊天机器人,越聊越懂你

Русскоязычный генеративный чатбот с профилем···

★ 258 2026-08-09
WristAssist 开源

手腕上的 AI 助手,抬手就能聊和画

A powerful ChatGPT and DALL-E app for all WearOS devices

★ 124 2026-08-09