langchain-rust

环境要求

• 已安装 Rust 工具链（可使用 cargo 命令）
• 一个已存在的 Cargo 项目（执行 cargo add 的目录）
• OpenAI API Key（README 提到可用环境变量或直接传参方式提供）
• 需要异步运行时（示例使用 #[tokio::main]）

安装与启动步骤

1. 1添加依赖

   在现有 Cargo 项目根目录执行 cargo add，把 langchain-rust 加入依赖；库内部依赖 serde_json 做序列化。

   cargo add langchain-rust

   复制

2. 2初始化模型

   用 OpenAI::default() 创建模型，可 with_model 指定型号；不想用环境变量时用 OpenAIConfig 传 key。

   use langchain_rust::llm::openai::{OpenAI, OpenAIModel};
   
   let open_ai = OpenAI::default().with_model(OpenAIModel::Gpt4oMini.to_string());

   复制

3. 3直接调用模型

   调用 invoke 传入字符串即可拿到模型回复；示例中问的是训练数据里没有的内容。

   let resp = open_ai.invoke("What is rust").await.unwrap();
   println!("{}", resp);

   复制

4. 4构建提示词链

   用 message_formatter! 组合 system 消息与 human 模板，再交给 LLMChainBuilder 生成链。

   let prompt = message_formatter![
       fmt_message!(Message::new_system_message("You are world class technical documentation writer.")),
       fmt_template!(HumanMessagePromptTemplate::new(template_fstring!("{input}", "input")))
   ];
   
   let chain = LLMChainBuilder::new().prompt(prompt).llm(open_ai.clone()).build().unwrap();

   复制

5. 5加入对话历史

   模板里用 fmt_placeholder! 占位，调用时通过 history 传入历史消息列表实现多轮上下文。

   let prompt = message_formatter![
       fmt_message!(Message::new_system_message("You are world class technical documentation writer.")),
       fmt_placeholder!("history"),
       fmt_template!(HumanMessagePromptTemplate::new(template_fstring!("{input}", "input")))
   ];

   复制

6. 6运行验证

   用 cargo run 执行你的示例程序，观察终端输出的模型回复与链返回结果。

   cargo run

   复制

关键配置

如何确认成功

运行后终端打印出模型对 "What is rust" 的回复，链调用成功时输出 Result: ... 而非 panic 报错。

常见问题

注意事项

• 项目仍处于成长期，API 可能随版本演进发生变化，升级前留意版本变更。
• 密钥属敏感信息，示例中的 sk-xxxxxxxx 只是占位，请勿把真实密钥提交到仓库。
• README 只给出 cargo add 的安装方式，未涉及 Docker、云部署等其他安装途径。