2024年10月8日
大模型agent开发之上下文长处理
摘要： Lost in the middle:上下文长连接精度问题 使用langchain工具，实现上下文长连接精度匹配问题使用huggingface托管LLM做嵌入式处理，这里选择的模型是all-MiniLM-L6-v2。根据文本对问题的相关性返回文本块，对检索结果进行排序，问题相关性越低的内容放在中间， 阅读全文
posted @ 2024-10-08 17:07 我刀呢？ 阅读(6) 评论(0) 推荐(0) 编辑