2024年7月12日
Lookback Lens：用注意力图检测和减轻llm的幻觉
摘要： 在总结文章或回答给定段落的问题时，大语言模型可能会产生幻觉，并会根据给定的上下文回答不准确或未经证实的细节，这也被称为情境幻觉。为了解决这个问题，这篇论文的作者提出了一个简单的幻觉检测模型，其输入特征由上下文的注意力权重与新生成的令牌(每个注意头)的比例给出。它被称为回看或基于回看比率的检测器。 该 阅读全文
posted @ 2024-07-12 11:26 deephub 阅读(1) 评论(0) 推荐(0) 编辑