变更说明

方案二更新:

3、客户端侧需要增加流式打印的逻辑。

2、试一下这个命令:
curl --location 'http://124.70.15.141:9090/v1/chat/completions'
--header 'Content-Type: application/json'
--data '{
"messages": [
{
"dialogue": [
"如何申请福田区的人才奖励?",
"申请人所在企业需要提供“三证合一”营业执照,并提供申请人在福田区企业缴纳社保满1年以上的社保清单或在福田区就业满1年以上的任职证明(加盖公司公章收原件)。",
"如何申请"三证合一"的营业执照?"
]
}
]
}'

1、让客户验证下这个命令,看下网络是否ok
curl http://124.70.15.141:9090/hello/FuTian


方案一更新:

1、检索接口替换为:https://120.46.40.93:9200/futian-poc/_search

2、检索出来的文档增加 0.8 score 的过滤值条件。
调用接口方式如下,对于一个 query 会返回多条结果,可以先默认配置为取前三条,传入参数 size=3。增加阈值过滤逻辑,按照 _score 阈值进行截断,_score阈值设为 0.8。也即 _score < 0.8 的文档进行丢弃。

3、最后一句 prompt 进行修改。对比先前需要改部分文字:

prompt = " 请阅读以下文章针对输入的问题生成回复,如果问题与文章不相关,则无需参考文章内容,直接回答问题即可。\n文章:{content_str}\n问题:{query}"

先前是这个:{ 
      "content": "请参照以下已知内容来详细地生成回复。已知内容: {检索文档1} \n{检索文档2}\n {检索文档3} \n 输入:提到的湖南景点,详细说明下" // 第三轮问题  + 检索文档
   } 
   
改为: { 
      "content": "请阅读以下文章针对输入的问题生成回复,如果问题与文章不相关,则无需参考文章内容,直接回答问题即可。\n文章:{检索文档1} \n{检索文档2}\n {检索文档3} \n 问题:提到的湖南景点,详细说明下" // 第三轮问题  + 检索文档
   } 

4、接口替换为流式打印接口。
参照:《盘古_API参考-带流式打印.docx》

posted @ 2023-06-15 11:35  Gelthin  阅读(32)  评论(0编辑  收藏  举报