langchain学习记录

一、输入和输出

输入：可以生成prompt的模板，复用。
输出：可以配合解析器，格式化成字典，方便后续使用。

 

 

二、大模型的记忆

每次访问实际上大模型师无状态的，之所以他有记忆，是因为我们每次访问，都在prompt里面加入了memory，所以token的消耗会越来越多。

langchain提供了多种memory的存储策略，让你决定携带多少的memory，从而节省token无限增长。

 

三、链（chain）

是多个任务组合在一起，前面的链的输出可以作为下一层的输入，一般会有初试链，目标链和默认链。

LLMRouterChain：在不同的子链之间路由（要提供name和description）

RouterOutputParser：将LLM输出解析成字典，根据字典来确定使用哪一条链