10 2024 档案

orin上部署LLM记录
摘要：模型下载： 下载LLAMA3.1，按照：https://blog.csdn.net/lanlinjnc/article/details/136709225 使用的模型：https://huggingface.co/shenzhi-wang/Llama3.1-8B-Chinese-Chat/tree/ 阅读全文
posted @ 2024-10-07 16:32 张扬zy 阅读(25) 评论(0) 推荐(0) 编辑
llama实验
摘要：尝试在实验室服务器上本地运行llama，看看llama可以干什么？ 然后按照官网运行时报错： ………… File "/defaultShare/archive/zhangyang/llama3/llama/model.py", line 288, in forward mask = torch.tr 阅读全文
posted @ 2024-10-07 16:30 张扬zy 阅读(1) 评论(0) 推荐(0) 编辑
Flask学习
摘要：在想要实现一个项目https://github.com/xiwan/LLM-Game-Agents时发现部署出了一点问题 先来制定一个蹩脚的计划：◕‿◕ 好吧稍微有点不知道从哪儿开始｡ ｡ 因为我不知道正确的应该是什么样的，所以想到目标就觉得有点胆怯了 没找到问题在哪，先尝试一下： `from fl 阅读全文
posted @ 2024-10-07 16:29 张扬zy 阅读(5) 评论(0) 推荐(0) 编辑