FROM DeepSeek:Breeze TTS 2 是 BreezeBlue 团队于2026年8月发布的一款开源实时文本转语音模型。它专为交互式体验设计,将自然语言音色设计、任意音色的指令遵循以及低延迟流式生成三大能力融合于单一模型。该模型支持中英双语,在开源模型中表现领先,曾在 TTS 音色设计基准测试中排名第一。

Breeze TTS 2 原始模型很大,一般的普通电脑是无法本地部署成功的,但是还是有不错的量化方案可以耍一耍的。博主的电脑为 Nvidia Laptop 3060Ti,专用显存只有小小的 6GB,但是部署下来的使用体验感还不错。下面简单说一下博主的本地部署方案,供大家参考一下!

一、编译 HoppouAI/Breeze-TTS-2.cpp 推理引擎

注意:这里强烈建议自己编译本地版本,社区公开编译好的推理引擎感觉都有点“阳痿”。

1.1 Clone 项目源码

首先,使用 git 克隆项目到本地。可以使用下面这个命令(仅供参考):

1
git clone https://github.com/HoppouAI/Breeze-TTS-2.cpp

1.2 安装 Vulkan SDK

注意:因为这个项目的编译依赖于 Vulkan SDK,所以我们还需要提前准备一下 Vulkan SDK,如果你之前依旧安装过 Vulkan SDK 则可以直接跳过本步操作。

然后,去到 Vulkan SDK 官网下载最新版的 SDK Installer。下载完成后直接选择安装目录,一路默认安装即可。

安装完成后,打开系统菜单栏启动一个名为 Vulkan Cube 的程序(通常的菜单路径为 Vulkan SDK <版本号>/Vulkan cube),如果能看到窗口里有一个高速旋转正方体模型,那就代表安装成功(或者通过观察命令 glslc --version 能否输出版本号信息来验证是否安装成功);如果安装失败,自己问一下 AI 解决一下!

1.3 编译推理引擎

注意:这里默认大家都有一定的 C++ 基础和 CMAKE 基础,如果遇到问题自己问一下 AI 吧!

接着,我们需要打开 CMAKE GUI 做一下编译配置:

  • Where is the source code: <项目所在目录>/Breeze-TTS-2.cpp
  • Where to build the binaries: <项目所在目录>/Breeze-TTS-2.cpp/build

如果找不到 Vulkan SDK DIR,可以 Add Entry 添加:

  • Name: Vulkan_ROOT
  • Type: STRING
  • Value: <Vulkan SDK 安装目录>,例如 C:/VulkanSDK/1.4.363.1。

然后再次 Config 就可以识别 Vulkan SDK 了!

图 1.3.1 CMake 编译 Breeze-TTS-2.cpp

没问题之后直接 Generate,然后 Open Project 并用 Visual Studio 编译 Release 版本。

编译完成后可以在 Breeze-TTS-2.cpp/build/Release 目录中看到类似于如下目录结构:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
.
│ breeze-cli.exe
│ breeze-convert.exe
│ breeze-quantize.exe
│ breeze-server.exe
│ breeze-tts-2-q8_0.gguf(模型文件,请见后文进行下载)
│ breeze.dll
│ breeze.exp
│ breeze.lib
│ breeze_core.lib
│ ggml-base.dll
│ ggml-cpu.dll
│ ggml-vulkan.dll
│ ggml.dll
│ shine.lib
│ start-server.cmd
│ vulkan-shaders-gen.exe
├───samples
└───voices

二、配置 HoppouAI/Breeze-TTS-2 模型

来到 HoppouAI/Breeze-TTS-2 模型官网,下载适合自己显卡的模型文件,然后将其放置在和 breeze-server.exe 同级目录之下,即编译后的可执行程序的根目录——Breeze-TTS-2.cpp/build/Release。

FileSizeNotes
breeze-tts-2-f16.gguf5.9 GBReference quality, unquantized
breeze-tts-2-q8_0.gguf3.3 GBRecommended. No audible loss against F16
breeze-tts-2-q6_k.gguf2.9 GB
breeze-tts-2-q4_k.gguf2.4 GBSmallest safe choice, holds up well
breeze-tts-2-q8_0-dd4.gguf3.2 GBExperimental, Q8_0 base with a Q4_K depth decoder
breeze-tts-2-q8_0-dd2.gguf3.1 GBExperimental, Q8_0 base with a Q2_K depth decoder
breeze-tts-2-q4_k-dd2.gguf2.3 GBExperimental, Q4_K base with a Q2_K depth decoder

三、启动 WebUI

在 breeze-server.exe 所在目录打开 CMD 窗口,通过 "./breeze-server.exe" "./breeze-tts-2-q8_0.gguf" --webui --te-cpu 命令启动 WebUI,就可以看到 Breeze TTS 2 的使用界面了:

图 3.1 HoppouAI/Breeze TTS 2 WebUI

补充:详细的启动命令可以使用 "./breeze-server.exe" --help 查看(翻译自 DeepSeek):

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
usage: breeze-server <model.gguf> [--host H] [--port P] [--webui] [--cpu] [--te-cpu]
[--chunk-first N] [--chunk-max N] [--verbose]
[--voices-dir PATH] [--ws-port P] [--split-chars N]
[--cors [ORIGINS]] [--no-warmup] [--parallel N]
[--talk] [--llm URL] [--tyger URL]

--chunk-first 首个流式分块中的最少帧数,数值越低开始越快(默认 1)。
当 GPU 过于繁忙无法以如此少的帧数保持领先时,该值会自动增大
--chunk-max 分块递增到的帧数上限,越高效率越高(默认 25)
将两者设为相同值可流式传输固定大小的分块
--split-chars 长文本被拆分时的默认长度(默认 600),0 表示整段一次性处理。
请求仍可单独覆盖此设置
--verbose 在每个请求中添加各阶段的耗时明细
--voices-dir 启动时加载的已保存 .breeze 声音文件夹(默认 voices)
--ws-port 流式会话的 websocket 端口,默认为 http 端口 + 1,
-1 表示关闭
--cors 允许其他来源的浏览器页面调用 API。单独使用时允许
任何来源,或提供逗号分隔的列表,如
http://localhost:5173,https://app.example.com 以仅允许这些来源
--te-cpu 在 CPU 上运行文本编码器,可节省约 1 GB 显存,
代价是每段文本处理前多约 0.7 秒。请勿与 --parallel 同时使用,
它会暂停其他流
--parallel N 同时生成的流数量(默认 1),超过该数量的请求会被告知
服务器繁忙。使用 CFG 的流按两个计算
--talk 在 /talk 提供语音通话演示,需要 tyger-server 和 LLM
--llm URL 演示获取回复所用的 OpenAI 兼容服务器,通过 /llm/ 透传
(使用 --talk 时默认为 http://127.0.0.1:1234/v1)
--tyger URL 演示所用的 tyger-server websocket(默认 ws://127.0.0.1:8765/ws)
--no-warmup 跳过启动时的简短一次性生成,首个请求将承担
GPU 管线初始化的开销