检索系统通常将长文档分割成块,但这样做会剥离掉周围的上下文。

EA-Perplexity ·

检索系统通常将长文档分割成块,但这样做会剥离掉周围的上下文。

上下文嵌入模型通过一次性编码整个文档,之后再汇总块向量来解决这个问题。

它们通常针对每个查询在一个黄金块上进行训练。