全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

CeraNetworks网络延迟测速工具IP归属甄别会员请立即修改密码
查看: 701|回复: 1

【自部署】TTS文本转语音大模型(docker一键使用)

[复制链接]
发表于 3 天前 | 显示全部楼层 |阅读模式
本帖最后由 Eureka 于 2025-9-29 00:01 编辑

马上国庆节了,写了个玩具给大伙耍耍。

众所周知,阿里开源的Cosyvoice文本转语音大模型的效果非常的不错,

我也把玩了很久

但苦于没有高性能的显卡(租的卡总有一种紧迫感,用得不舒坦  ),所以写了个纯CPU运行的版本。

相较于官方原版:

CPU推理时 原版   精简后
内存占用   4G+   4G+
硬盘占用   20G+   8.93G
速度相同   50s/it   50s/it

对于原版,做了以下处理:

1. 剔除不必要的Python环境依赖模型文件,硬盘占用减少10G

2. 基于python:3.10-slim镜像(裸镜像仅43M大小),并且使用Docker打包,系统更轻量的同时,不会遇到安装报错、版本不兼容、网络错误等等等等问题,小白也能轻松部署。

3. 重写了WebUI,(原版UI仅供测试使用,并且解决了第一次生成时,无法获取音频的问题),步骤指导更清晰!


硬件要求:
- 物理内存推荐 8G,不够的话再加swap缓存也能跑,但是慢。
- 硬盘剩余空间大于 10G
- 流量消耗大约 10G
- CPU在推理时,会满载95%+(注意vps商家有无限制)


好了,说了那么多,下面就是详细步骤了:
第一步:将下面内容保存为docker-compose.yml
  1. services:
  2.   cov:
  3.     image: eureka6688/cosyvoice:latest # arm架构请将"latest"替换成"arm"
  4.     container_name: cov
  5.     ports:
  6.       - "50000:50000"
  7.     command: ["python", "web.py", "--port", "50000"]
  8.     stdin_open: true
  9.     tty: true
  10.     restart: unless-stopped
复制代码

第二步:在保存docker-compose.yml的目录下运行以下命令
  1. docker compose up -d
复制代码

等待10分钟,也许更久,就能够在 http://localhost:50000 访问到web服务界面了

没错,就这么简单!

接下来用nginx反代使用也好,ssh隧道转发到本地使用也可以,甚至可以直接打开防火墙50000端口,再通过公网IP+50000端口访问都没问题(注意网络安全!)
 楼主| 发表于 3 天前 | 显示全部楼层
本帖最后由 Eureka 于 2025-9-29 00:50 编辑

演示效果请移步:https://gallery.chaomeng.de/?cosyvoice_demo

新增ARM版,移步:https://hostloc.com/thread-1437008-1-1.html
发表于 3 天前 来自手机 | 显示全部楼层
6啊,老哥,试试看
发表于 3 天前 来自手机 | 显示全部楼层
有ARM版没. 甲骨文arm闲置中
 楼主| 发表于 3 天前 | 显示全部楼层
swds 发表于 2025-9-27 17:33
有ARM版没. 甲骨文arm闲置中

没有额
发表于 3 天前 | 显示全部楼层

源码开源么?可以的话我帮编译一个
 楼主| 发表于 3 天前 | 显示全部楼层
扫地僧 发表于 2025-9-27 18:13
源码开源么?可以的话我帮编译一个

这个就是源项目,https://github.com/FunAudioLLM/CosyVoice

构建arm的话,得修改代码,因为源项目没有提供arm的依赖工具,所以我这套在arm系统下也是编译构建不成功的。

源码的话,就一个Dockerfile,和一些配置。
发表于 3 天前 | 显示全部楼层
论坛这样的好帖越来越少了。
发表于 3 天前 | 显示全部楼层
感谢大佬分享
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2025-9-30 04:50 , Processed in 0.068781 second(s), 11 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表