AXERA-TECH / kokoro.axera

Kokoro Huggingface Inference Demo

本项目提供了基于 Axera 平台的 Kokoro 语音合成推理 demo，支持多语言文本到语音（TTS）推理，适用于板端和算力卡环境。

• Python 示例
• C++ 示例

模型转换

• kokoro convert

支持平台

• AX650N

主要功能

• 语音合成：支持将多种语言文本合成为语音。

上板部署

• AX650N 的设备已预装 Ubuntu22.04
• 以 root 权限登陆 AX650N 的板卡设备
• 链接互联网，确保 AX650N 的设备能正常执行 apt install, pip install 等指令
• 已验证设备：AX650N DEMO Board

依赖环境

• Python 3.10上验证
• 依赖包见 requirements.txt
• 需要安装 axengine 推理库（如未安装，参考下方步骤）

目录结构

.
|-- demo_kokoro_ax.py           # 主推理 demo 脚本
|-- inference_utils.py          # 推理辅助脚本
|-- requirements.txt            # 依赖包列表
|-- checkpoints/                # 配置与声纹文件
|   |-- config.json
|   |-- voices/*.pt
|-- models/                     # 模型文件
|   |-- kokoro_part1_96.axmodel
|   |-- kokoro_part2_96.axmodel
|   |-- kokoro_part3_96.axmodel
|   |-- model4_har_sim.onnx

快速开始

1. 安装依赖

# 安装 axengine（如未安装）
hf download AXERA-TECH/PyAXEngine --local-dir PyAXEngine
cd PyAXEngine
pip3 install axengine-0.1.3-py3-none-any.whl

# 安装项目依赖
cd ..
pip3 install -r requirements.txt

2. 模型

# Kokoro模型和声纹文件，放置到 models/ 和 checkpoints/ 目录

3. 运行推理 Demo

python demo_kokoro_ax.py --text "致力于打造世界领先的人工智能感知与边缘计算芯片。" --lang z --voice checkpoints/voices/zf_xiaoyi.pt --output output_zh.wav -d models -f 0.3
或者
python demo_kokoro_ax.py --text "The sky above the port was the color of television, tuned to a dead channel." --lang a --voice checkpoints/voices/af_heart.pt --output output_en.wav -d models -f 0.3

参数说明：

4. 输出结果

• 生成的音频保存在 --output 指定的 wav 文件中。

耗时如下：rtf最小约0.07

输出: output_zh.wav | 时长: 4.80s

初始化: 5.107s
音频推理: 0.322s (共1次)
  ├─ Model1: 0.022s (平均22.1ms)
  ├─ Model2: 0.017s (平均17.4ms)
  ├─ Model3: 0.185s (平均185.3ms)
  └─ Model4 onnx: 0.074s (平均73.7ms)

 rtf:0.067

参考

• kokoro
• melotts.axera

技术支持

• Github issues
• QQ 群: 139953715