Nvidia 3060Ti 本地部署 Breeze TTS 2 方案
FROM DeepSeek:Breeze TTS 2 是 BreezeBlue 团队于2026年8月发布的一款开源实时文本转语音模型。它专为交互式体验设计,将自然语言音色设计、任意音色的指令遵循以及低延迟流式生成三大能力融合于单一模型。该模型支持中英双语,在开源模型中表现领先,曾在 TTS 音色设计基准测试中排名第一。
Breeze TTS 2 原始模型很大,一般的普通电脑是无法本地部署成功的,但是还是有不错的量化方案可以耍一耍的。博主的电脑为 Nvidia Laptop 3060Ti,专用显存只有小小的 6GB,但是部署下来的使用体验感还不错。下面简单说一下博主的本地部署方案,供大家参考一下!
一、编译 HoppouAI/Breeze-TTS-2.cpp 推理引擎
注意:这里强烈建议自己编译本地版本,社区公开编译好的推理引擎感觉都有点“阳痿”。
1.1 Clone 项目源码
首先,使用 git 克隆项目到本地。可以使用下面这个命令(仅供参考):
1 | |
1.2 安装 Vulkan SDK
注意:因为这个项目的编译依赖于 Vulkan SDK,所以我们还需要提前准备一下 Vulkan SDK,如果你之前依旧安装过 Vulkan SDK 则可以直接跳过本步操作。
然后,去到 Vulkan SDK 官网下载最新版的 SDK Installer。下载完成后直接选择安装目录,一路默认安装即可。
安装完成后,打开系统菜单栏启动一个名为 Vulkan Cube 的程序(通常的菜单路径为 Vulkan SDK <版本号>/Vulkan cube),如果能看到窗口里有一个高速旋转正方体模型,那就代表安装成功(或者通过观察命令 glslc --version 能否输出版本号信息来验证是否安装成功);如果安装失败,自己问一下 AI 解决一下!
1.3 编译推理引擎
注意:这里默认大家都有一定的 C++ 基础和 CMAKE 基础,如果遇到问题自己问一下 AI 吧!
接着,我们需要打开 CMAKE GUI 做一下编译配置:
- Where is the source code:
<项目所在目录>/Breeze-TTS-2.cpp - Where to build the binaries:
<项目所在目录>/Breeze-TTS-2.cpp/build
如果找不到 Vulkan SDK DIR,可以 Add Entry 添加:
- Name:
Vulkan_ROOT - Type:
STRING - Value:
<Vulkan SDK 安装目录>,例如C:/VulkanSDK/1.4.363.1。
然后再次 Config 就可以识别 Vulkan SDK 了!

没问题之后直接 Generate,然后 Open Project 并用 Visual Studio 编译 Release 版本。
编译完成后可以在 Breeze-TTS-2.cpp/build/Release 目录中看到类似于如下目录结构:
1 | |
二、配置 HoppouAI/Breeze-TTS-2 模型
来到 HoppouAI/Breeze-TTS-2 模型官网,下载适合自己显卡的模型文件,然后将其放置在和 breeze-server.exe 同级目录之下,即编译后的可执行程序的根目录——Breeze-TTS-2.cpp/build/Release。
| File | Size | Notes |
|---|---|---|
| breeze-tts-2-f16.gguf | 5.9 GB | Reference quality, unquantized |
| breeze-tts-2-q8_0.gguf | 3.3 GB | Recommended. No audible loss against F16 |
| breeze-tts-2-q6_k.gguf | 2.9 GB | |
| breeze-tts-2-q4_k.gguf | 2.4 GB | Smallest safe choice, holds up well |
| breeze-tts-2-q8_0-dd4.gguf | 3.2 GB | Experimental, Q8_0 base with a Q4_K depth decoder |
| breeze-tts-2-q8_0-dd2.gguf | 3.1 GB | Experimental, Q8_0 base with a Q2_K depth decoder |
| breeze-tts-2-q4_k-dd2.gguf | 2.3 GB | Experimental, Q4_K base with a Q2_K depth decoder |
三、启动 WebUI
在 breeze-server.exe 所在目录打开 CMD 窗口,通过 "./breeze-server.exe" "./breeze-tts-2-q8_0.gguf" --webui --te-cpu 命令启动 WebUI,就可以看到 Breeze TTS 2 的使用界面了:

补充:详细的启动命令可以使用 "./breeze-server.exe" --help 查看(翻译自 DeepSeek):
1 | |







