摘要：
前言 提到注意力机制，你一定会想起Transformer的经典架构图： (图源：https://www.datacamp.com/tutorial/how-transformers-work，这篇文章讲得不错) 初看起来可能一头雾水：向量映射是啥？编码器和解码器是干啥的？前馈机制是啥？为啥要归一化？ 阅读全文
posted @ 2024-12-09 11:32
xiaoxi666
阅读(1266)
评论(0)
推荐(0)
摘要：
前言 文章开始前，先尝试回答几个问题： 在日常工作中，程序的打包和部署方式流程是怎样的？ 如果使用Docker容器部署方式，是用原生Docker命令，还是Kaniko这类工具？ 除了业务服务外，如果还需要同时运行其他进程，应该怎么办？举个例子：除了主服务进程（比如Web服务器），还需要同时启动Ngi 阅读全文
posted @ 2024-12-09 11:30
xiaoxi666
阅读(122)
评论(0)
推荐(0)
摘要：
在云计算和微服务架构中，南北向流量和东西向流量是两种常见的流量模式。 南北向流量（North-South Traffic） 定义：南北向流量指的是从外部进入系统内部或从系统内部出去的流量，通常是客户端到服务器之间的通信，例如用户通过浏览器或移动应用访问 Web 服务或 API。 特点：这种流量穿过系 阅读全文
posted @ 2024-12-09 11:26
xiaoxi666
阅读(1274)
评论(0)
推荐(0)
摘要：
众所周知，LLM的函数function-calling能力很强悍，解决了大模型与实际业务系统的交互问题。其本质就是函数调用。 从openai官网摘图： 简而言之： LLM起到决策的作用，告知业务系统应该调用什么函数，以及入参是什么。 业务系统负责实现对应的函数（比如本地实现，或者调用其他系统提供的服 阅读全文
posted @ 2024-12-09 11:25
xiaoxi666
阅读(3434)
评论(3)
推荐(1)
浙公网安备 33010602011771号