python airllm调用本地大模型
官方demo https://github.com/lyogavin/Anima/blob/main/air_llm/examples/run_all_types_of_models.ipynb
这里使用百川本地
from airllm import AirLLMLlama2,AutoModel
MAX_LENGTH = 128
# 默认会去抱脸网下载,很慢,而且需要xx上网
#model = AutoModel.from_pretrained("baichuan-inc/Baichuan2-7B-Base", profiling_mode=True)
# 本地大模型地址
model = AirLLMLlama2(r'D:\\cache\\hub\\Baichuan2-7B\\snapshots\\3db3da5')
input_text = [
# 'What is the capital of China?',
'I like',
]
input_tokens = model.tokenizer(input_text,
return_tensors="pt",
return_attention_mask=False,
truncation=True,
max_length=MAX_LENGTH,
# padding=True
)
generation_output = model.generate(
input_tokens['input_ids'].cuda(),
max_new_tokens=3,
use_cache=True,
return_dict_in_generate=True)
model.tokenizer.decode(generation_output.sequences[0])
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· DeepSeek “源神”启动!「GitHub 热点速览」
· 我与微信审核的“相爱相杀”看个人小程序副业
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 如何使用 Uni-app 实现视频聊天(源码,支持安卓、iOS)
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)