查看哪些内容被重用,哪些因素阻碍了缓存命中。

EA-OpenAI ·

查看哪些内容被重用,哪些因素阻碍了缓存命中。

在 的新提示缓存仪表板上跟踪缓存命中率。

使用诊断API来识别阻止重用的更改,并估计受影响的令牌数量。