105 lines
4.6 KiB
Markdown
105 lines
4.6 KiB
Markdown
# ViGent2 - 数字人口播视频生成系统
|
||
|
||
<div align="center">
|
||
|
||
> 📹 **上传人物** · 🎙️ **输入文案** · 🎬 **一键成片**
|
||
|
||
基于 **LatentSync 1.6 + EdgeTTS** 的开源数字人口播视频生成系统。
|
||
集成 **Qwen3-TTS** 声音克隆与自动社交媒体发布功能。
|
||
|
||
[功能特性](#-功能特性) • [技术栈](#-技术栈) • [文档中心](#-文档中心) • [部署指南](Docs/DEPLOY_MANUAL.md)
|
||
|
||
</div>
|
||
|
||
---
|
||
|
||
## ✨ 功能特性
|
||
|
||
### 核心能力
|
||
- 🎬 **高清唇形同步** - LatentSync 1.6 驱动，512×512 高分辨率 Latent Diffusion 模型。
|
||
- 🎙️ **多模态配音** - 支持 **EdgeTTS** (微软超自然语音) 和 **Qwen3-TTS** (3秒极速声音克隆)。
|
||
- 📝 **智能字幕** - 集成 faster-whisper + Remotion，自动生成逐字高亮 (卡拉OK效果) 字幕。
|
||
- 🎨 **样式预设** - 标题/字幕样式选择 + 预览 + 字号调节，支持自定义字体库。
|
||
- 🖼️ **作品预览一致性** - 标题/字幕预览按素材分辨率缩放，效果更接近成片。
|
||
- 💾 **用户偏好持久化** - 首页状态统一恢复/保存，刷新后延续上次配置。
|
||
- 🎵 **背景音乐** - 试听 + 音量控制 + 混音，保持配音音量稳定。
|
||
- 🤖 **AI 辅助创作** - 内置 GLM-4.7-Flash，支持 B站/抖音链接文案提取、AI 洗稿、标题/标签自动生成。
|
||
|
||
### 平台化功能
|
||
- 📱 **全自动发布** - 支持抖音/微信视频号/B站/小红书立即发布；扫码登录 + Cookie 持久化。
|
||
- 🖥️ **发布管理预览** - 支持签名 URL / 相对路径作品预览，确保可直接播放。
|
||
- 📸 **发布结果可视化** - 抖音/微信视频号发布成功后返回截图，发布页结果卡片可直接查看。
|
||
- 🛡️ **发布防误操作** - 发布进行中自动提示“请勿刷新或关闭网页”，并拦截刷新/关页二次确认。
|
||
- 🔐 **认证与隔离** - 基于 Supabase 的用户隔离，支持手机号注册/登录、密码管理。
|
||
- 🛡️ **服务守护** - 内置 Watchdog 看门狗机制，自动监控并重启僵死服务，确保 7x24h 稳定运行。
|
||
- 🚀 **性能优化** - 视频预压缩、模型常驻服务（近实时加载）、双 GPU 流水线并发。
|
||
|
||
---
|
||
|
||
## 🛠️ 技术栈
|
||
|
||
| 领域 | 核心技术 | 说明 |
|
||
|------|----------|------|
|
||
| **前端** | Next.js 16 | TypeScript, TailwindCSS, SWR |
|
||
| **后端** | FastAPI | Python 3.10, AsyncIO, PM2 |
|
||
| **数据库** | Supabase | PostgreSQL, Storage (本地/S3), Auth |
|
||
| **唇形同步** | LatentSync 1.6 | PyTorch 2.5, Diffusers, DeepCache |
|
||
| **声音克隆** | Qwen3-TTS | 1.7B 参数量，Flash Attention 2 加速 |
|
||
| **自动化** | Playwright | 社交媒体无头浏览器自动化 |
|
||
| **部署** | Docker & PM2 | 混合部署架构 |
|
||
|
||
---
|
||
|
||
## 📖 文档中心
|
||
|
||
我们提供了详尽的开发与部署文档：
|
||
|
||
### 部署运维
|
||
- **[部署手册 (DEPLOY_MANUAL.md)](Docs/DEPLOY_MANUAL.md)** - 👈 **部署请看这里**！包含完整的环境搭建步骤。
|
||
- [参考音频服务部署 (QWEN3_TTS_DEPLOY.md)](Docs/QWEN3_TTS_DEPLOY.md) - 声音克隆模型部署指南。
|
||
- [LatentSync 部署指南](models/LatentSync/DEPLOY.md) - 唇形同步模型独立部署。
|
||
- [用户认证部署 (AUTH_DEPLOY.md)](Docs/AUTH_DEPLOY.md) - Supabase 与 Auth 系统配置。
|
||
|
||
### 开发文档
|
||
- [后端开发指南](Docs/BACKEND_README.md) - 接口规范与开发流程。
|
||
- [后端开发规范](Docs/BACKEND_DEV.md) - 分层约定与开发习惯。
|
||
- [前端开发指南](Docs/FRONTEND_DEV.md) - UI 组件与页面规范。
|
||
- [开发日志 (DevLogs)](Docs/DevLogs/) - 每日开发进度与技术决策记录。
|
||
|
||
---
|
||
|
||
## 📂 项目结构
|
||
|
||
```
|
||
ViGent2/
|
||
├── backend/ # FastAPI 后端服务
|
||
│ ├── app/ # 核心业务逻辑
|
||
│ ├── scripts/ # 运维脚本 (Watchdog 等)
|
||
│ └── tests/ # 测试用例
|
||
├── frontend/ # Next.js 前端应用
|
||
├── models/ # AI 模型仓库
|
||
│ ├── LatentSync/ # 唇形同步服务
|
||
│ └── Qwen3-TTS/ # 声音克隆服务
|
||
└── Docs/ # 项目文档
|
||
```
|
||
|
||
---
|
||
|
||
## 🌐 服务架构
|
||
|
||
系统采用微服务架构设计，各组件独立运行：
|
||
|
||
| 服务名称 | 端口 | 用途 |
|
||
|----------|------|------|
|
||
| **Web UI** | 3002 | 用户访问入口 (Next.js) |
|
||
| **Backend API** | 8006 | 核心业务接口 (FastAPI) |
|
||
| **LatentSync** | 8007 | 唇形同步推理服务 |
|
||
| **Qwen3-TTS** | 8009 | 声音克隆推理服务 |
|
||
| **Supabase** | 8008 | 数据库与认证网关 |
|
||
|
||
---
|
||
|
||
## ⚖️ License
|
||
|
||
[MIT License](LICENSE) © 2026 ViGent Team
|