Langchain试用百度千帆

之前聊了向量数据库，大模型也火了一段时间了，今天特地尝试一下基于Langchain进行百度千帆大模型的使用。Langchain相当于一个LLM编程框架，开发中无需过多关心各个大模型的接入，只需安装相关模型，统一通过Langchain去调用相关大模型进行使用。

1.环境准备

(1)python安装    

    Langchain需要python3.8.1以上版本，使用conda创建一个python3.9.0的环境。

?

1 2 3

1.使用conda search python查看有哪些python版本 2.安装python3.9.0,使用命令:conda create -n myenv python=3.9.0 3.使用conda activate myenv命令激活使用

　　

 

(2)安装langchain

    注意切换pip地址，否则会很慢，我这里使用的是清华的地址，并且是直接挂到命令里面配置使用清华地址的。

?

1 2	pip install langchain -i https://pypi.tuna.tsinghua.edu.cn/simple pip install langchain_community -i https://pypi.tuna.tsinghua.edu.cn/simple

(3)安装qianfan

pip install qianfan -i https://pypi.tuna.tsinghua.edu.cn/simple

2.模型AK,SK获取

    登录百度千帆创建相关应用，获取相关ak，sk。

 

3.代码执行

    编写简单代码进行测试，不过现在没有免费的了，报了一个收费提示，代码如下：

import os
from langchain_community.chat_models import QianfanChatEndpoint
from langchain_core.messages import HumanMessage

os.environ["QIANFAN_AK"] = "ak"
os.environ["QIANFAN_SK"] = "sk"

chat = QianfanChatEndpoint(
    streaming=True,
)
res = chat([HumanMessage(content="讲一个故事")])
print(res.content)