基于机器学习的开源AI语音合成Python源码 5秒钟克隆你的声音

正文概述 云码哥   2021-09-3   4.39K

基于机器学习的开源AI语音合成Python源码 5秒钟克隆你的声音

这是一套基于机器学习的开源AI语音合成Python源码,可生成一个实时语音克隆工具,它通过深度学习,只需要说话者几秒钟的原始音频,就能模仿该说话者的声音进行说话了。

演示视频

下载地址

英文版
https://github.com/CorentinJ/Real-Time-Voice-Cloning

中文版:
https://github.com/babysor/Realtime-Voice-Clone-Chinese

快速开始

1.安装要求

按照原始存储库测试您是否已准备好所有环境。**Python 3.7 或更高版本 ** 需要运行工具箱。

如果出现ERROR: Could not find a version that satisfies the requirement torch==1.9.0+cu102 (from versions: 0.1.2, 0.1.2.post1, 0.1.2.post2 )此错误可能是由于python版本低,请尝试使用3.9,它会成功安装

  • 安装ffmpeg
  • 运行pip install -r requirements.txt以安装剩余的必要软件包。
  • 安装 webrtcvad pip install webrtcvad-wheels(如果需要)

请注意,我们使用的是预训练的编码器/声码器而不是合成器,因为原始模型与中文符号不兼容。这意味着 demo_cli 目前不工作。

2. 用你的数据集训练合成器

  • 下载 adatatang_200zh 或其他数据集并解压:确保您可以访问train文件夹中的所有 .wav
  • 使用音频和 mel 频谱图进行预处理: python pre.py  允许参数--dataset {dataset}支持 adatatang_200zh、magicdata、aishell3

如果出现这种情况the page file is too small to complete the operation,请参考这个视频,将虚拟内存改为100G(102400),例如:当文件放在D盘时,D盘的虚拟内存就改变了。

  • 训练合成器: python synthesizer_train.py mandarin /SV2TTS/synthesizer
  • 当您在训练文件夹synthesizer/saved_models/ 中看到 attention line show 和 loss 满足您的需要时,请转到下一步。

仅供参考,我的注意力是在 18k 步之后出现的,并且在 50k 步之后损失变得低于 0.4。 基于机器学习的开源AI语音合成Python源码 5秒钟克隆你的声音 基于机器学习的开源AI语音合成Python源码 5秒钟克隆你的声音

2.2 使用合成器的预训练模型

感谢社区,将分享一些模型:

作者 下载链接 上一个视频
@miven https://pan.baidu.com/s/1PI-hM3sn5wbeChRryX-RCQ代码:2021 https://www.bilibili.com/video/BV1uh411B7AD/

我的早期训练模型的链接:百度云 代码:aid4

2.3 训练声码器(可选)

  • 预处理数据: python vocoder_preprocess.py
  • 训练声码器: python vocoder_train.py mandarin

3. 启动工具箱

然后您可以尝试使用工具箱:

python demo_toolbox.py -d  或者 python demo_toolbox.py

好消息?: 支持汉字

本站大部分资源收集于网络以及网友投稿,本不保证资源的完整性以及安全性,请下载后自行测试。
本站资源仅供下载者学习技术,版权归资源原作者所有,请在下载后24小时之内自觉删除。
本站资源仅供下载者学习IT编程开发技术,请遵守国家法律法规,严禁用于非法用途。
若作商业用途,请购买正版,由于未及时购买正版发生的侵权行为,与本站无关。
如您是版权方,本站源码有侵犯到您的权益,请邮件联系331752841@qq.com 删除,我们将及时处理!

发表评论