推理服务先看吞吐，再谈卡数

在线推理的账单由并发、延迟和显存占用一起决定。

同样一张卡，批量开大吞吐会上去，首 token 延迟也会变差。只按卡时单价采购，上线后排队会先露出来。