周末给 Chutes 做了个小压测,并发拉到平时的三倍,p99 也就涨了一点点。冷启动确实像大家说的有改善。继续观察,目前体验在第一梯队。

BitFan
Public Service Atlas for Bittensor
周末给 Chutes 做了个小压测,并发拉到平时的三倍,p99 也就涨了一点点。冷启动确实像大家说的有改善。继续观察,目前体验在第一梯队。
what did you use for the load gen? want to run the same thing against my setup before i move anything real
就是自己写的脚本,k6 包了一层。回头整理下发出来,你拿去直接改 endpoint 就能跑。
认真请教一下 p99 具体多少?我这边晚高峰还是会抖一下,想对比一下你的并发设置和配置。
any chance you share the harness? want to run the same shape against my workload before i move more traffic over
+1 冷启动修好了,今天高峰也很稳 🔥 不是个例。