Project_Domino开发日记

Project_Domino 开发日志

虽然距离项目确立到现在已经过了很久，但最近优化的小思路比较多，还是写个日志来记录一下开发心得吧

全本地状态下的延迟优化

2026/7/29

通过换了luxtts后将完全离线运行的内存占用减少到了2g的程度，但是最迫切优化的一步，那就是延迟感几乎没有过多的改变。
一开始尝试将句子切块切成小块来批量合成，试图降低延迟，但通过切块式发现tts有最小长度闲杂，通过标点符号切块容易出错，后改为用字符长度切块。
但切块后依旧无法解决延迟高问题，长一些的对话甚至要到8秒的地步。
asr的流式推理速度，从结束说话到跑出最后句子，几乎固定是0.5秒上下。
本地llm的速度由于硬件限制无法改进，正常带图片对话推理为两秒上下。
原情况下，tts部分，最好的情况下，第一个字播放几乎要四秒。
所以聚焦tts优化，最后发现可以用最小字符切出符合最小tts合成长度，并且降低步数的方式来最快速跑出第一个字回复。
由于长度固定是最小的字符长度，为6个中文字符并且降低了质量，这样tts从一开始的不确定开口时间变成了几乎固定是2秒上下。

除了降低延迟外，最大意外惊喜是能让它出音的速度几乎固定了，每次第一个chunk因为固定6个中文字符，所以从一开始因为句子长度而改变的变量变成了常量
有个比喻，就是稳定的 45fps 比忽高忽低的 60fps 感觉更流畅。
大概就是low帧稳定的意思

2026/8/24

核心流程目前还未review，大概是一团乱麻的状态，
这些日子主要在在尝试Tauri搭建ui和桌宠，大概也是vibe了几个尝试，但最后就决定模仿网上现成的放图片然后切换的样子。
后面的工作就是review核心代码，然后做ui