论文推荐：大型语言模型能自我解释吗?

这篇论文的研究主要贡献是对LLM生成解释的优缺点进行了调查。详细介绍了两种方法，一种是做出预测，然后解释它，另一种是产生解释，然后用它来做出预测。

最近的研究发现，即使LLM是在特定数据上训练的，也不能认识到训练的知识与推理上下文之间的联系。

因此一些人认为之为“X链”的方法非常重要。因为要求LLM将任务分解为思维链时，LLM在解决任务的同时检索所训练的现有知识方面表现更好。

LLM有没有能力回答问题，并提供一个解释如何得出结论。或者收到提示词后，LLM有没有能力分解他们的答案？

这篇论文使用两种方法来测试LLM的能力：

做出预测然后解释，或者产生一个解释，并用它来做出预测。

https://avoid.overfit.cn/post/aff43e4336b5487fa6abd01357fc51b6