摘要:1 Dynamo 介绍 NVIDIA Dynamo 是一个开源的模块化推理框架,用于在分布式环境上实现生成式 AI 模型的服务化部署。Dynamo 通过动态资源调度、智能路由、内存优化与高速数据传输,无缝扩展大型 GPU 集群之间的推理工作负载。 Dynamo 采用推理引擎无关的设计(支持 Tens 阅读全文
基于GPT2训练构建医疗问诊机器人
2025-10-12 14:24 by dribs, 16 阅读, 0 推荐, 收藏,
摘要:0、环境 H20一台,镜像:ubuntu22.04-cuda12.4.0-py310-torch2.6.0 H20 跑这个速度杠杠的,batch 3772 of epoch 4 共跑了15min 训练演示结果,样例太少训练的就是有点傻 github找了一份中文医疗对话数据集 https://gith 阅读全文
物流行业信息咨询智能问答系统
2025-09-20 15:59 by dribs, 20 阅读, 0 推荐, 收藏,
摘要:背景 练手rag项目 LLM都是基于过去的经验数据进行训练完成;无法处理获取实时的信息,需结合RAG实现;处理私域的数据 流程原理 项目流程 依赖关系 langchain==0.1.20 faiss-gpu==1.7.2 sentence-transformers==2.2.2 执行结果 目录结构 阅读全文
day8 golang-chan-协程-定时器-锁-等待组
2023-04-14 20:05 by dribs, 41 阅读, 0 推荐, 收藏,
摘要:package main import ( "fmt" "math/rand" "sync" "sync/atomic" "time" ) func example1() { //不要这样写,阻塞就死无法解除,零值nil var c1 chan int fmt.Printf("%d,%d,%v", 阅读全文
day7 golang GMP
2023-04-06 20:44 by dribs, 45 阅读, 0 推荐, 收藏,
摘要:大名鼎鼎的GMP模型 需要自行学习的知识:进程、线程、协程、多线程、线程池、io多路复用,内核态用户态,,同步阻塞异步非阻塞等等相关知识 代码是在线程中运行的,协程也是,所以当协程阻塞的时候该线程也阻塞了,其他任务就无法调度了,该线程就死了。 如何解决,那就需要让协程自由的在线程中移动,当阻塞的时候 阅读全文
golang面试题单向链表和双向链表
2023-03-20 15:58 by dribs, 75 阅读, 0 推荐, 收藏,
摘要:甲流难受中,简单发一个链表 1.单项列表 package main import ( "fmt" "strconv" ) type Node struct { value int next *Node } type Linklist struct { len int head *Node tail 阅读全文
golang 自行实现一个base64加密
2023-03-10 14:16 by dribs, 164 阅读, 0 推荐, 收藏,
摘要:package main import ( "fmt" "strconv" ) const base64table = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/" func Mybase64(a string) 阅读全文
golang标准库log+第三方zerolog
2023-03-08 21:14 by dribs, 616 阅读, 0 推荐, 收藏,
摘要:package main import ( "log" "os" ) func main() { log.Printf("%s\n", "Printf") //2023/03/08 21:05:08 Printf log.Println("Println") log.Print("print") / 阅读全文
golang标准库序列化反序列化 json + 第三方msgpack
2023-03-05 09:12 by dribs, 444 阅读, 0 推荐, 收藏,
摘要:序列化:将内存中对象存储下来,把它变成一个个字节,转为二进制数据 反序列化:将文件的一个个字节恢复成内存中队形。从二进制数据中恢复 字符序列化:json xml 二进制序列化: protocol buffers 、messagepak等 package main import ( "encoding 阅读全文
golang 标准库 目录操作
2023-03-02 21:58 by dribs, 83 阅读, 0 推荐, 收藏,
摘要:package main import ( "fmt" "io/fs" "io/ioutil" "os" "path/filepath" ) //路径拼接 func example1() { p1 := "a/b" + "/" + "c/d" + "/" + "f" p2 := filepath.J 阅读全文
浙公网安备 33010602011771号