LLM生态圈:transformer、HuggingFace、GPU、分布式、量化-加速-部署、Agent、多模态 等 原理、代码、应用
摘要:模型 原理与案例 篇 代码/技术细节 与工具 篇 1.数据-训练 2.压缩、量化、加速、部署/训练加速 应用篇 LLM 关键模块 ### 位置编码 transformer-正弦位置编码 视觉位置编码 旋转位置编码 RoPE,支持长度扩展,外推性好 为什么词嵌入与位置编码可以直接相加 ## 长文本扩展
阅读全文
Langchain + LangGraph + LlamaIndex + openai 系列
摘要:Langchain 1. Langchain1.0 入门 LangChain DeepAgent langfuse LangSmith Langchain 0.0 官网: langchain - 基础 langchain - LCEL langchain - Documents langchain
阅读全文
向量数据库 及 LangChain 用法
摘要:当今科技领域的发展日新月异,向量数据库成为了热门的话题之一。 这些数据库以其高效的向量检索和相似度搜索功能,为各种应用场景提供了强大的支持。 本文旨在汇总向量数据库 Milvus、Zilliz、Faiss、Qdrant、LlamaIndex、Chroma、LanceDB、Pinecone、Weavi
阅读全文
prompt 技巧 汇总
摘要:prompt 并不是一件简单的事情,它可以包括多个阶段:设计、实现、评估、细化、迭代、验证、部署和维护 本文旨在汇总 prompt 的各种使用方式 https://mp.weixin.qq.com/s/8KpGFPsELFC0-njjIiitSg 解读提示工程(Prompt Engineering)
阅读全文