react-native-executorch

环境要求

• 一个可正常运行的 React Native 工程（README 未给出创建命令）
• Node.js 与 npm 环境
• 已配置好的 iOS/Android 原生开发环境

安装与启动步骤

1. 1准备 RN 工程

   先准备一个能跑起来的 React Native 项目，README 只提供安装与用法的 Quickstart，未给创建工程的命令。

2. 2安装依赖库

   在项目根目录安装 react-native-executorch 及其必需的 peer 依赖 worklets 与 blob-util。

   npm install react-native-executorch react-native-worklets react-native-blob-util

   复制

3. 3编写模型调用代码

   用 useLLMChatSession 加载默认 LLM 模型，通过 sendMessage 发送提示词并逐 token 回调打印结果。

   import { Button, View } from 'react-native';
   import { models, useLLMChatSession } from 'react-native-executorch';
   
   export function App() {
     const session = useLLMChatSession(models.llm.LFM2_5_1_2B.DEFAULT);
   
     const handleGenerate = async () => {
       if (!session.isReady || !session.sendMessage) return;
   
       const turn = await session.sendMessage(
         'Explain on-device AI in one sentence.',
         (token) => console.log(token)
       );
   
       console.log('Result messages:', turn.messages);
     };
   
     return (
       <View style={{ flex: 1, justifyContent: 'center', alignItems: 'center' }}>
         <Button
           title={session.isReady ? 'Generate' : `Loading (${session.downloadProgress.toFixed(0)}%)`}
           onPress={handleGenerate}
           disabled={!session.isReady}
         />
       </View>
     );
   }

   复制

4. 4运行应用

   启动 App 后模型会自动下载并缓存，下载完成后按钮变为 Generate，点击即可在端侧推理。

关键配置

如何确认成功

session.isReady 变为 true、按钮显示 Generate，点击后控制台逐 token 打印输出并返回 messages。

常见问题

注意事项

• README 只提供了 npm 安装命令，未提及 pod install 等额外原生依赖步骤。
• 必须同时安装 react-native-worklets 与 react-native-blob-util 这两个 peer 依赖。
• 示例使用 models 中的默认 LLM 配置，切换其它模型需参考官方文档。