构建LLM应用程序时需要了解的5件事
推荐：使用NSDT场景编辑器助你快速搭建可二次编辑的3D应用场景
1.幻觉
使用LLM时应注意的主要方面之一是幻觉。在LLM的背景下，幻觉是指产生不真实的，不正确的，无意义的信息。LLM非常有创意，它们可以用于不同的领域，但仍然存在的一个非常关键的未解决问题是它们的幻觉。由于LLM不是搜索引擎或数据库，因此这些错误是不可避免的。
为了克服这个问题，您可以通过为输入提示提供足够的细节和约束来限制模型产生幻觉的自由度，从而使用受控生成。
2. 选择合适的上下文
如前所述，幻觉问题的解决方案之一是为输入提示提供适当的上下文，以限制LLM产生幻觉的自由。但是，另一方面，LLM对可以使用的单词数量有限制。此问题的一个可能的解决方案是使用索引，其中数据被转换为向量并存储在数据库中，并在运行时搜索适当的内容。索引通常有效，但实现起来很复杂。
3. 可靠性和一致性
如果您构建基于LLM的应用程序，您将面临的问题之一是可靠性和一致性。LLM 不可靠且不一致，无法确保模型输出每次都正确或符合预期。您可以构建应用程序的演示并多次运行它，当您午餐应用程序时，您会发现输出可能不一致，这将给您的用户和客户带来很多问题。
4. 提示工程不是未来
与计算机通信的最佳方式是通过编程或机器语言，而不是自然语言。我们需要一个明确的，以便计算机理解我们的要求。LLM的问题在于，如果你要求LLM用同样的提示做十次特定的事情，你可能会得到十个不同的输出。
5. 提示注入安全问题A
构建基于 LLM 的应用程序时将面临的另一个问题是提示注入。在这种情况下，用户将强制 LLM 提供预期的特定输出。例如，如果您创建了一个应用程序来生成 youtube 脚本视频（如果您提供标题）。用户可以指示忘记所有内容并写一个故事。
总结
构建LLMs应用程序很有趣，可以解决几个问题并自动执行许多任务。但是，它带来了一些问题，您在构建基于 LLM 的应用程序时需要注意。从幻觉开始，选择正确的提示上下文来克服幻觉，输出可靠性和一致性以及快速注射的安全问题。
