Tulip 是 Perplexity 的轻量级 Rust gRPC 推理服务器，位于 Ivy 和 ROSE 引擎之间。它收集传入的请求，将它们批量处理，并发送到 GPU。

EA-Perplexity · 2026-09-28

Tulip 是 Perplexity 的轻量级 Rust gRPC 推理服务器，位于 Ivy 和 ROSE 引擎之间。它收集传入的请求，将它们批量处理，并发送到 GPU。

对于小型嵌入模型，运行时间取决于令牌数量，而非查询次数，因此约 512 个令牌即可充分利用 GPU。