即梦AI - 一站式AI创作平台

Muyan-TTS:沐言智语发布的开源、可训练的TTS模型,专为播客而设计阿里大模型

Muyan-TTS是什么?最新ai

Muyan-TTS 是一由北京沐言智语发布的开源、可训练的TTS模型,专为播客而设计,预算控制在 5 万美元以内。Muyan-TTS用超过 100,000 小时的播客音频数据进行预训练,支持零样本 TTS 合成,能够生成高质量语音,还支持通过几十分钟的目标语音进行说话人自适应调整。扣子coze下载

Muyan-TTS:沐言智语发布的开源、可训练的TTS模型,专为播客而设计.webp

Muyan-TTS模型特点说的al官方下载

  • 大规模预训练:Muyan-TTS 基于 Llama-3.2-3B 模型,使用超过 10 万小时的播客音频数据进行预训练,能够实现零样本文本到语音ai打开豆包打开豆包合成,生成高质量的语音。

  • 支持说话人适应:通过几十分钟的目标说话人语音数据,Muyan-TTS 可以进一步适应特定说话人的声音特征,从而实现高度定制化的语音合成。大魔王ai工具下载

  • 架构设计:Muyan-TTS 采用 GPT-SoVITS 的两阶段结构,语言模型部分以 Llama-3.2-3B 为 backbone 继续预训练,解码器部分使用 SoVITS 架构,结合了 LLM 的语义建模能力和 VITS 模型的音素到音素(G2P)特性,有效减少了幻觉现象。密鸽(al)

  • 数据处理:构建了包含超过 100,000 小时高质量语音和对应转录的并行语料库,适用于播客等长音频场景的 TTS 训练。智谱ai开放平台

Muyan-TTS:沐言智语发布的开源、可训练的TTS模型,专为播客而设计.webp

开源与训练

  • 开源信息:Muyan-TTS 完全开源,提供了完整的数据收集和处理流程、详细的训练方法以及优化的推理框架。其代码和模型可在 GitHub 上找到。说的al官方下载

  • 训练成本:在训练成本方面,假设 A10 和 A100 GPU 的租赁价格分别为每小时 0.5 美元和 1 美元,Muyan-TTS 的总训练成本约为 50,540 美元。阿里大模型

性能表现下载并安装豆包

  • 零样本合成:在 LibriSpeech 数据集上,Muyan-TTS 的零样本合成性能表现出色,其词错误率仅次于 CosyVoice2,且平均意见得分高于 Spark-TTS 和 GPT-SoVITS v3。打开豆包打开豆包

  • 监督微调模型:经过监督微调的 Muyan-TTS-SFT 在语音质量和说话人相似度上优于基础模型,但在 WER 上略有下降。说的al官方下载

  • 推理速度:Muyan-TTS 的推理速度在所有测试模型中最快,仅需 0.33 秒即可合成 1 秒的语音,适合实时语音生成场景。ai智能工具有哪些

Muyan-TTS应用场景人工智能的应用

Muyan-TTS 适用于多种音频内容形式,比如主持人旁白、访谈复刻、语音摘要等。兼顾合成质量、个性化能力和运行效率,适合播客等长音频场景。最新ai

限制下一个豆包

  • 依赖于解码器中的 G2P 模块,需要完整的音素序列才能进行合成,无法实现流式推理。说的al官方下载

  • 训练数据主要为英语,多语言语音合成能力有限。下一个豆包

  • 由于训练语料中缺乏指令级标注,Muyan-TTS 目前不支持指令跟随 TTS 任务。ai未来十大趋势

Muyan-TTS安装与使用通义千问干啥用的

安装步骤下载并安装豆包

1. 克隆仓库并创建虚拟环境:智谱ai开放平台

git clone https://github.com/MYZY-AI/Muyan-TTS.git
cd Muyan-TTS
conda create -n muyan-tts python=3.10 -y
conda activate muyan-tts
make build

2. 安装 FFmpeg(Ubuntu 系统):打开豆包打开豆包

sudo apt update
sudo apt install ffmpeg

3. 下载模型:ai智能工具有哪些

  • Muyan-TTS 和 Muyan-TTS-SFT 模型可从 Hugging Face 或 ModelScope 下载。ai智能工具有哪些

  • 还需要下载 chinese-hubert-base 的权重。deeoseek

  • 将所有下载的模型放在 pretrained_models 目录下。ai介绍

使用方法打开豆包打开豆包

运行以下命令进行语音合成:阿里大模型

python tts.py

核心推理代码如下:

async def main(model_type, model_path):
tts = Inference(model_type, model_path, enable_vllm_acc=False)
wavs = await tts.generate(
ref_wav_path="assets/Claire.wav",
prompt_text="Although the campaign was not a complete success, it did provide Napoleon with valuable experience and prestige.",
text="Welcome to the captivating world of podcasts, let's embark on this exciting journey together."
)
output_path = "logs/tts.wav"
with open(output_path, "wb") as f:
f.write(next(wavs))  
print(f"Speech generated in {output_path}")

github仓库:下载并安装豆包https://github.com/MYZY-AI/Muyan-TTS

收藏
最新工具
Rita AI
Rita AI打开豆包打开豆包

GamsGo旗下的AI视频生成器,集成Seedance、Klin...ai工具有哪些软件

DeepSeek Harness
DeepSeek Harness大魔王ai工具下载

DeepSeek开源的AI Agent工程框架,基 Cordis...ai智能工具有哪些

燃虫网
燃虫网ai介绍

国内专业短视频素材下载平台,提供4K高清无水印视频素材、自媒体创...大魔王ai工具下载

Renoise AI
Renoise AI大魔王ai工具下载

一个集成了20多款主流模型的创作平台,支持Seedance、Kl...密鸽(al)

AI编标
AI编标ai介绍

一个面向标书制作人员、投标企业及标书代写机构的投标工具平台。它把...下一个豆包

造剧
造剧扣子coze下载

AI短剧、漫剧与短视频生成平台,支持剧本输入、小说转剧本、AI自...智谱ai开放平台

FreeGPT.IM
FreeGPT.IM最新ai

基于GPT Image 2的免费AI图像生成工具,无需登录、无水...grok4.1

PaperPure
PaperPure智谱ai开放平台

专业文稿优化平台,提供AIGC检测、AI降痕、智能降重、学术润色...人工智能的应用

MimoCode
MimoCode扣子coze下载

小米开源的终端AI编程助手,MIT协议免费使用,内置百万Toke...下一个豆包

Vivideo
Vivideo阿里大模型

一款聚合30+AI视频模型的免费生成平台,支持文本、图像转视频、...ai工具有哪些软件