EA-Perplexity · 2026-09-28
Tulip采用两项技术来降低延迟并提升吞吐量。
CUDA图预先记录GPU工作,以便一次调用即可启动,减少CPU开销。
LazyTensors异步跟踪结果,让CPU在GPU完成当前批次的同时准备下一批次。