Fun-ASR

环境要求

• Python 环境与 pip（README 使用 pip / python -m pip 安装依赖）
• Transformers 路线需 transformers==5.17.0、torch==2.10.0、torchaudio==2.10.0、librosa==
• FunASR 服务路线需 funasr>=1.3.26 与 vllm>=0.12.0（vLLM 通常需要 GPU）
• 纯 CPU/边缘部署可走 llama.cpp + GGUF，无需 GPU、运行时不需要 Python
• 需联网下载模型权重（ModelScope / Hugging Face）

安装与启动步骤

1. 1克隆项目仓库

   从 GitHub 拉取 Fun-ASR 源码并进入项目目录，后续安装与脚本都在此目录执行。

   git clone https://github.com/QwenAudio/Fun-ASR.git
   cd Fun-ASR

   复制

2. 2安装仓库依赖

   使用项目根目录的 requirements.txt 安装基础依赖，README 环境准备章节给出的标准步骤。

   pip install -r requirements.txt

   复制

3. 3装 Transformers 依赖

   使用官方 Transformers 推理路线时安装指定版本包，不需要额外工具包或远程代码。

   python -m pip install 'transformers==5.17.0' 'torch==2.10.0' 'torchaudio==2.10.0' 'librosa==0.11.0' 'soundfile==0.13.1'

   复制

4. 4装 FunASR 与 vLLM

   如使用 FunASR 推理与服务，安装 README 指定版本的 funasr 和 vllm。

   pip install "funasr>=1.3.26" "vllm>=0.12.0"

   复制

5. 5跑 Python 转写示例

   加载 Fun-ASR-Nano-2512-hf，用 apply_transcription_request 做推理并打印识别文本，language 可改成 zh/ja 等。

   python - <<'PY'
   import torch
   from transformers import AutoModelForSpeechSeq2Seq, AutoProcessor
   
   torch.set_num_threads(4)
   model_id = "FunAudioLLM/Fun-ASR-Nano-2512-hf"
   revision = "d93b302ee7fd505e1b3576120fc142fc6f7820e1"
   audio = "https://huggingface.co/FunAudioLLM/Fun-ASR-Nano-2512/resolve/272c57b82523ada6fd87095e955f8e29100979ab/example/en.mp3"
   
   processor = AutoProcessor.from_pretrained(
       model_id, revision=revision, trust_remote_code=False, token=False
   )
   model = AutoModelForSpeechSeq2Seq.from_pretrained(
       model_id, revision=revision, trust_remote_code=False, token=False,
       dtype=torch.float32,
   ).to("cpu").eval()
   inputs = processor.apply_transcription_request(
       audio=audio, language="en",
       processor_kwargs={
           "return_tensors": "pt",
           "audio_kwargs": {"sampling_rate": 16000},
           "text_kwargs": {"padding": True},
       },
   )
   with torch.inference_mode():
       generated = model.generate(**inputs, max_new_tokens=128, do_sample=False)
   new_tokens = generated[:, inputs.input_ids.shape[1]:]
   print(processor.batch_decode(new_tokens, skip_special_tokens=True)[0])
   PY

   复制

6. 6下载 GGUF 模型

   CPU/边缘路线用仓库自带脚本下载 nano 的编码器、LLM 与 FSMN-VAD，输出到 ./gguf 目录。

   bash runtime/llama.cpp/download-funasr-model.sh nano ./gguf

   复制

7. 7跑命令行转写

   用 llama-funasr-cli 单文件二进制转写 audio.wav，内置 FSMN-VAD，可先替换成自己的音频路径。

   llama-funasr-cli --enc ./gguf/funasr-encoder-f16.gguf -m ./gguf/qwen3-0.6b-q8_0.gguf -a audio.wav --vad ./gguf/fsmn-vad.gguf

   复制

关键配置

如何确认成功

Python 脚本运行后终端打印出识别文本；llama-funasr-cli 执行后同样输出转写文字，且 ./gguf 下已生成三个 gguf 文件。

常见问题

注意事项

• 单独下载 VAD 模型可执行：hf download FunAudioLLM/fsmn-vad-GGUF --include "*.gguf" --local-dir ./gguf
• 示例音频是 Hugging Face 上的远程 URL，运行时要保证网络可访问
• llama.cpp 路线可直接使用 Releases 中的预编译二进制，无需自行编译
• 语音识别模型体积较大，首次下载需要较长时间和足够磁盘空间