// // // //

摘要: 原理与案例 篇 代码与工具 篇 模型压缩与加速 应用篇 LLM 大语言模型一览 prompt 技巧 汇总 ## 网络结构 LLM 架构、Attention矩阵,分析 LLM 采用 decode-only batch norm、layer norm、RMSNorm、DeepNorm GLM and C 阅读全文
posted @ 2023-12-30 14:29 努力的孔子 阅读(125) 评论(0) 推荐(1) 编辑
 
摘要: Langchain 0.0 官网: langchain - 基础 langchain - LCEL langchain - Documents langchain - Model langchain - Retrieval langchain - Chains langchain - Agent l 阅读全文
posted @ 2023-12-30 14:05 努力的孔子 阅读(51) 评论(0) 推荐(0) 编辑
 

摘要: 有一部分没写完,或者写得不好,有时间会完善,故没有公开,有需要私信我 深度学习理论基础 与 代码实践 模型训练 tricks 总结 模型加速【1】入门篇 模型加速【2】-知识蒸馏 代码 深度学习 之 模型部署【1】-基础入门 深度学习 之 模型部署【2】-TensorRT 入门 深度学习 之 模型部 阅读全文
posted @ 2022-09-18 20:03 努力的孔子 阅读(291) 评论(0) 推荐(0) 编辑
 

2023年12月14日

摘要: 2018年的10月11日,Google发布的论文《Pre-training of Deep Bidirectional Transformers for Language Understanding》, 成功在 11 项 NLP 任务中取得 state of the art 的结果,赢得自然语言处理 阅读全文
posted @ 2023-12-14 15:27 努力的孔子 阅读(80) 评论(0) 推荐(0) 编辑
 

2023年12月13日

摘要: 当今科技领域的发展日新月异,向量数据库成为了热门的话题之一。 这些数据库以其高效的向量检索和相似度搜索功能,为各种应用场景提供了强大的支持。 本文旨在汇总向量数据库 Milvus、Zilliz、Faiss、Qdrant、LlamaIndex、Chroma、LanceDB、Pinecone、Weavi 阅读全文
posted @ 2023-12-13 08:46 努力的孔子 阅读(1594) 评论(0) 推荐(1) 编辑
 

2023年11月20日

摘要: 利用 MTEB 基准 要全面评估编码器的功能,最好的参考是大规模文本嵌入基准(MTEB)。这个基准可以让我们根据向量的维度、检索的平均性能和模型的大小来对比不同的编码器。不过,我们也不能完全相信这个基准的结果,因为它并不是万能的,而且模型的训练数据的细节可能没有公开。 MTEB 不仅给我们展示了 O 阅读全文
posted @ 2023-11-20 13:58 努力的孔子 阅读(1621) 评论(0) 推荐(0) 编辑
 

2023年10月7日

摘要: https://mp.weixin.qq.com/s/XZwe7-Kylb8D7GFYJQvP9A 阅读全文
posted @ 2023-10-07 16:46 努力的孔子 阅读(18) 评论(0) 推荐(0) 编辑
 

2023年9月27日

摘要: prompt 并不是一件简单的事情,它可以包括多个阶段:设计、实现、评估、细化、迭代、验证、部署和维护 本文旨在汇总 prompt 的各种使用方式 https://mp.weixin.qq.com/s/8KpGFPsELFC0-njjIiitSg 解读提示工程(Prompt Engineering) 阅读全文
posted @ 2023-09-27 14:01 努力的孔子 阅读(2185) 评论(0) 推荐(0) 编辑
 

2023年9月5日

摘要: PDF 导图一览: pdfplumber pdfplumber库按页处理 pdf ,获取页面文字,提取表格等操作。 学习文档:https://github.com/jsvine/pdfpl import pdfplumber with pdfplumber.open("E:\新员工\【学员讲义】企业 阅读全文
posted @ 2023-09-05 09:08 努力的孔子 阅读(1056) 评论(0) 推荐(0) 编辑
 

2023年7月19日

摘要: 工欲善其事必先利其器,PyCharm 是最popular的Python开发工具,它提供的功能非常强大,是构建大型项目的理想工具之一,如果能挖掘出里面实用技巧,能带来事半功倍的效果。 本文主要向大家介绍了Python语言之Pycharm 常用快捷键,通过具体的内容向大家展示,希望对大家学习Python 阅读全文
posted @ 2023-07-19 14:59 努力的孔子 阅读(107) 评论(0) 推荐(0) 编辑
 
摘要: Model作者Size类型开源? LLaMa Meta AI 7B-65B Decoder open OPT Meta AI 125M-175B Decoder open T5 Google 220M-11B Encoder-Decoder open mT5 Google 235M-13B Enco 阅读全文
posted @ 2023-07-19 14:31 努力的孔子 阅读(128) 评论(0) 推荐(0) 编辑