4ed4e232823cad98937c0677a8fb6a93a80f7b0b
Add a frameless always-on-top caption window wired to the live capture pipeline. Silence-based segmentation gates the audio so the model never sees silence, and the panel background is painted in paintEvent with a configurable opacity instead of a style sheet. 新增悬浮字幕窗(无边框、置顶、可折叠/展开),接入实时采集与流式转写。 分段由静音检测驱动,静音期间不送音频,避免模型对静音产生幻觉。底板 改为在 paintEvent 中绘制,不透明度可调。
live-caption
Linux 桌面实时字幕:采集系统正在播放的声音,实时转写成字幕显示(类似 Chrome 实时字幕)。 技术栈:C++ / Qt6 / CMake / Qwen3-ASR(llama.cpp,纯 C++,无 Python 依赖)。
当前进度
| 阶段 | 内容 | 状态 |
|---|---|---|
| Phase 0 | 可行性验证(采集 / 模型 / CPU 实时性) | ✅ 见 docs/phase0-verification.md |
| Phase 1 | 命令行原型(进程内推理 + monitor 采集 + 滑窗 + 稳定前缀) | ✅ 见 experiments/phase1/README.md |
| Phase 2 | 原生流式解码(8s 切片 + 增量 KV 复用 + 前缀回滚) | ✅ 见 docs/phase2-streaming.md |
| Phase 3 | Qt 悬浮字幕窗(折叠/展开、语言标签、置顶、实时链路) | ✅ 见 docs/phase3-caption-window.md |
| Phase 4 | 设置界面(模型切换、语言、字体、位置) | 待做 |
| Phase 5 | Wayland 支持、打包、模型分发 | 待做 |
关键结论(Phase 0 实测)
- 系统播放音频可从默认输出的 monitor 源采集(PipeWire + pipewire-pulse,走 libpulse,兼容 PulseAudio)。
Qwen3-ASR-0.6B在本机(i5-13420H,无独显)纯推理 RTF ≈ 0.19,实时有充足余量。- 模型与推理运行时必须锁版本:只有 ggml-org 官方 GGUF(
general.architecture = qwen3vl)与系统 llama.cpp 兼容;社区的 Q4 量化用的是qwen3asr/qwen3_asr,装不进去。 - 转写原始输出为
language <LANG><asr_text><正文>,语言名正好用于 UI 的语言标签。
快速开始
# 1. 准备模型(只需一次;网络可达 hf-mirror.com)
B=https://hf-mirror.com/ggml-org/Qwen3-ASR-0.6B-GGUF/resolve/main
aria2c -x16 -s16 -k4M -o Qwen3-ASR-0.6B-Q8_0.gguf "$B/Qwen3-ASR-0.6B-Q8_0.gguf"
aria2c -x16 -s16 -k4M -o mmproj-Qwen3-ASR-0.6B-Q8_0.gguf "$B/mmproj-Qwen3-ASR-0.6B-Q8_0.gguf"
# 2. 构建
cmake -S . -B build -DCMAKE_BUILD_TYPE=Release
cmake --build build -j
# 3. 单文件转写
./build/live-caption-cli \
--model Qwen3-ASR-0.6B-Q8_0.gguf \
--mmproj mmproj-Qwen3-ASR-0.6B-Q8_0.gguf \
--file some_16k_mono.wav
# 4. 实时字幕
./build/live-caption-cli \
--model Qwen3-ASR-0.6B-Q8_0.gguf \
--mmproj mmproj-Qwen3-ASR-0.6B-Q8_0.gguf
目录
├─ src/ # 原型源码
├─ docs/ # 各阶段验证报告
└─ experiments/
├─ phase0/ # 可行性验证脚本(采集/RTF/模型元数据)
└─ phase1/ # 命令行原型说明与实机测试脚本
Languages
C++
89%
CMake
6.6%
Shell
3.6%
Python
0.8%