// // // //

随笔分类 -  001-大语言模型LLM

 
LLM生态圈:transformer、HuggingFace、GPU、分布式、量化-加速-部署、Agent、多模态 等 原理、代码、应用
摘要:模型 原理与案例 篇 代码/技术细节 与工具 篇 1.数据-训练 2.压缩、量化、加速、部署/训练加速 应用篇 LLM 关键模块 ### 位置编码 transformer-正弦位置编码 视觉位置编码 旋转位置编码 RoPE,支持长度扩展,外推性好 为什么词嵌入与位置编码可以直接相加 ## 长文本扩展 阅读全文
posted @ 2023-12-30 14:29 努力的孔子 阅读(530) 评论(1) 推荐(2)
Langchain + LangGraph + LlamaIndex + openai 系列
摘要:Langchain 1. Langchain1.0 入门 LangChain DeepAgent langfuse LangSmith Langchain 0.0 官网: langchain - 基础 langchain - LCEL langchain - Documents langchain 阅读全文
posted @ 2023-12-30 14:05 努力的孔子 阅读(370) 评论(0) 推荐(0)
向量数据库 及 LangChain 用法
摘要:当今科技领域的发展日新月异,向量数据库成为了热门的话题之一。 这些数据库以其高效的向量检索和相似度搜索功能,为各种应用场景提供了强大的支持。 本文旨在汇总向量数据库 Milvus、Zilliz、Faiss、Qdrant、LlamaIndex、Chroma、LanceDB、Pinecone、Weavi 阅读全文
posted @ 2023-12-13 08:46 努力的孔子 阅读(2322) 评论(0) 推荐(1)
prompt 技巧 汇总
摘要:prompt 并不是一件简单的事情,它可以包括多个阶段:设计、实现、评估、细化、迭代、验证、部署和维护 本文旨在汇总 prompt 的各种使用方式 https://mp.weixin.qq.com/s/8KpGFPsELFC0-njjIiitSg 解读提示工程(Prompt Engineering) 阅读全文
posted @ 2023-09-27 14:01 努力的孔子 阅读(3691) 评论(0) 推荐(0)