随笔分类 -  LLM

摘要:LLM应用实战-财经新闻自动聚合开发了一款新闻资讯的自动聚合的工具,基于crawl4ai框架实现。 阅读全文
posted @ 2024-12-16 13:34 mengrennwpu 阅读(346) 评论(0) 推荐(1) 编辑
摘要:今日吃瓜-艺术家集体抗议:OpenAI Sora项目背后的无偿劳动真相OpenAI的Sora项目早期邀请众多艺术家成为测试者、红队成员以及创意合作伙伴,但艺术家们感觉被背刺了。忙活了一顿,艺术家们感觉自己的艺术产物主要作用是给OpenAi的Sora做宣传。因此,艺术家们联名并在HuggingFace上发布公开信,且将sora的艺术创作链接一并提供出来,虽然该链接在公开信发布3个小时后就被OpenAI下线掉了... 阅读全文
posted @ 2024-11-27 13:52 mengrennwpu 阅读(35) 评论(0) 推荐(0) 编辑
摘要:LLM应用实战: 给个公司简称,输出公司全称开发了一款基于公司简称补全公司全称的工具,包括具体的框架、实现原理以及完整源码,满满诚意,提供给各位看官。欢迎转发、订阅~有问题可以私信或留言沟通! 阅读全文
posted @ 2024-11-18 18:06 mengrennwpu 阅读(477) 评论(4) 推荐(2) 编辑
摘要:LLM应用实战: AI资讯的自动聚合及报告生成本qiang~开发了一块AI资讯的自动聚合及报告生成工具,包括具体的框架、实现原理以及完整源码,满满诚意,提供给各位看官。欢迎转发、订阅~ 阅读全文
posted @ 2024-11-06 12:46 mengrennwpu 阅读(746) 评论(0) 推荐(2) 编辑
摘要:LLM论文研读: GraphRAG的替代者LightRAG本文针对开源的LightRAG论文研读以及原理分析,包括核心模块、框架的整体工作流程等内容。 阅读全文
posted @ 2024-10-30 14:18 mengrennwpu 阅读(3249) 评论(0) 推荐(1) 编辑
摘要:LLM应用实战: OpenAI多代理新作-Swarm本文主要是OpenAI开源multi-agent框架swarm进行介绍,包括其核心组件Agent, instructions,functions,多个Agent之间如何进行切换,以及针对其中的examples进行验证,框架及源码非常简单,看官们可以亲自尝试一下。 阅读全文
posted @ 2024-10-22 12:37 mengrennwpu 阅读(807) 评论(0) 推荐(0) 编辑
摘要:LLM应用实战: 文档问答系统Kotaemon-1. 简介及部署实践本文主要针对开源文档问答系统Kotaemon的介绍,包括主要功能特点,与传统文档RAG的区别,部署教程以及效果体验等。 阅读全文
posted @ 2024-09-18 09:01 mengrennwpu 阅读(2573) 评论(6) 推荐(1) 编辑
摘要:LLM论文研读: MindSearch本文主要是针对MindSearch进行研读,掌握其中的原理及思想,期许对日常项目工作带来价值,且部署验证了效果。 阅读全文
posted @ 2024-08-30 15:43 mengrennwpu 阅读(386) 评论(0) 推荐(1) 编辑
摘要:LLM应用实战: 产业治理多标签分类本期的干货就是分享关于如何基于LLM实现数量多、层级多的多标签分类的实战经验,各位读者可以参考借鉴。 阅读全文
posted @ 2024-08-20 17:26 mengrennwpu 阅读(602) 评论(5) 推荐(0) 编辑
摘要:LLM应用实战:当图谱问答(KBQA)集成大模型(三)本文主要是针对KBQA方案基于LLM实现存在的问题进行优化,主要涉及到响应时间提升优化以及多轮对话效果优化,提供了具体的优化方案以及相应的prompt。 阅读全文
posted @ 2024-06-12 12:42 mengrennwpu 阅读(512) 评论(0) 推荐(0) 编辑
摘要:LLM实战:当网页爬虫集成gpt3.5本文主要是通过Scrapegraph-ai集成gpt3.5实现一个简单的网页爬取并解析的demo应用,其中涉及到gpt3.5免费申请,Scrapegraph-ai底层原理简介,demo应用源码等。 阅读全文
posted @ 2024-05-20 20:50 mengrennwpu 阅读(914) 评论(0) 推荐(0) 编辑
摘要:LLM实战:LLM微调加速神器-Unsloth + Qwen1.5本文主要是使用unsloth框架针对Qwen1.5的高效微调实验,提供了详细的对比代码以及不同维度的对比分析结果。 阅读全文
posted @ 2024-05-16 21:18 mengrennwpu 阅读(739) 评论(0) 推荐(1) 编辑
摘要:LLM实战:LLM微调加速神器-Unsloth + LLama3本文主要是使用unsloth框架针对llama3的高效微调实验,提供了详细的对比代码以及不同维度的对比分析结果。 阅读全文
posted @ 2024-05-14 10:00 mengrennwpu 阅读(3163) 评论(0) 推荐(1) 编辑
摘要:LLM优化:开源星火13B显卡及内存占用优化本文主要是针对开源星火13B的显存及内存占用过大的一个代码优化。核心思想是使用CPU预加载模型,再转换至GPU。 阅读全文
posted @ 2024-04-28 16:46 mengrennwpu 阅读(746) 评论(1) 推荐(0) 编辑
摘要:LLM应用实战:当KBQA集成LLM(二)本文主要是针对KBQA方案基于LLM实现存在的问题进行优化,主要涉及到图谱存储至Es,且支持Es的向量检索,还有解决了一部分基于属性值倒查实体的场景,且效果相对提升。 阅读全文
posted @ 2024-04-25 21:16 mengrennwpu 阅读(499) 评论(1) 推荐(0) 编辑
摘要:LLM应用实战:当KBQA集成LLM将传统KBQA中的部分模块,如NLU、指代消解、实体对齐等任务,完全由LLM实现 阅读全文
posted @ 2024-04-11 10:56 mengrennwpu 阅读(713) 评论(3) 推荐(2) 编辑
摘要:LLM面面观之MoE此文是本qiang~针对大语言模型的MoE的整理,包括原理、流程及部分源码 阅读全文
posted @ 2024-04-02 09:28 mengrennwpu 阅读(1345) 评论(0) 推荐(0) 编辑
摘要:LLM面面观之RLHF平替算法DPO此文是本qiang~针对大语言模型的DPO算法的整理,包括原理、流程及部分源码。 阅读全文
posted @ 2024-01-31 12:37 mengrennwpu 阅读(3436) 评论(1) 推荐(0) 编辑
摘要:LLM面面观之LLM上下文扩展方案1. 背景 本qiang~这段时间调研了LLM上下文扩展的问题,并且实打实的运行了几个开源的项目,所谓实践与理论相结合嘛! 此文是本qiang~针对上下文扩展问题的总结,包括解决方案的整理概括,文中参考了多篇有意义的文章,他山之石可以攻玉。 大语言模型的扩展有诸多意义,如进行更长的会话、总结更长的文 阅读全文
posted @ 2024-01-22 13:48 mengrennwpu 阅读(1086) 评论(0) 推荐(1) 编辑
摘要:LLM面面观之LLM复读机问题及解决方案LLM复读机产生的原因以及对应的解决方案 阅读全文
posted @ 2023-12-14 15:42 mengrennwpu 阅读(4363) 评论(0) 推荐(0) 编辑