不真实的tps #64
Description
从1.3.1升级到1.3.6后，首字时间=响应时间，导致tps不真实地过高。
可能与 #56 提及的问题有关？
另外在使用本项目的时候，omp中ds几乎不会写入缓存，但其他agent以及其他模型不会存在这个问题，不知道您这边有没有头绪。
{{ message }}
从1.3.1升级到1.3.6后，首字时间=响应时间，导致tps不真实地过高。
可能与 #56 提及的问题有关？
另外在使用本项目的时候，omp中ds几乎不会写入缓存，但其他agent以及其他模型不会存在这个问题，不知道您这边有没有头绪。
Activity
maiphucgiang commentedon Oct 17, 2026
已在 #66 修复 omp没有缓存可能是他自身适配问题，我本地没有复现出来暂不处理