a1010

摘要： 大语言模型的发展日新月异，记得在去年这个时候，函数调用还是gpt-4的专属。到今年本地运行的大模型无论是推理能力还是文本的输出质量都已经非常接近gpt-4了。而在去年gpt-4尚未发布函数调用时，智能体框架的开发者们依赖构建精巧的提示词实现了gpt-3.5的函数调用。目前在本机运行的大模型，基于这一 阅读全文

摘要： 通过大模型来实现多个智能体进行游戏对局这个想对已经比较成熟了无论是去年惊艳的斯坦福小镇还是比如metaGPT或者类似的框架都是使用智能体技术让大模型来操控，从而让大模型跳出自身“预测下一个token”的文字功能去探索更多的应用落地可能性。不过一直没有真正操作过，直到前段时间看到一个新闻《和GPT-4 阅读全文

摘要： 在上一期博客里，我们提到使用使用c#强大的表达式树实现对象的深克隆，文章地址：https://www.cnblogs.com/gmmy/p/18186750。但是文章里没有解决如何实现循环引用的问题。 循环引用 在C#中，循环引用通常发生在两个或更多的对象相互持有对方的引用，从而形成一个闭环。这种情 阅读全文

摘要： 一、表达式树的基本概念 表达式树是一个以树状结构表示的表达式，其中每个节点都代表表达式的一部分。例如，一个算术表达式 a + b 可以被表示为一个树，其中根节点是加法运算符，它的两个子节点分别是 a 和 b。在 LINQ（语言集成查询）中，表达式树使得能够将 C# 中的查询转换成其他形式的查询，比如 阅读全文

摘要： 之前曾经分享过纯c#运行开源本地大模型Mixtral-8x7B 当时使用的是llamasharp这个库和Mixtral的模型在本地部署和推理，前段时间我看到llamasharp更新到了0.11.1版本，可以支持今年2月份开源的 llava-v1.6多模态大模型了，本着尝试一下的想法，就做了集成，不过 阅读全文

摘要： 先看效果图，这是一个比较典型的逻辑推理问题，以下是本地运行的模型和openai gpt3.5的推理对比 本地运行Mixtral-8x7B大模型： chatgpt4的回答： 关于Mixtral 8x7B这个就不多介绍了，但凡在关注开源大模型的朋友应该知道这个模型是目前市场上最具竞争力的开源大型模型之一 阅读全文

摘要： 6 月 13 日 OpenAI 官网突然发布了重磅的 ChatGPT 更新，我相信大家都看到了 ，除了调用降本和增加更长的上下文版本外，开发者们最关心的应该还是新的函数调用能力。通过这项能力模型在需要的时候可以调用函数并生成对应的 JSON 对象作为输出。这使开发人员能更准确地从模型获取结构化数据， 阅读全文

摘要： 恢复内容开始 在上一篇文章中我们大致讲述了一下如何通过词嵌入向量的方式为大语言模型增加长期记忆，用于落地在私域场景的问题。其中涉及到使用openai的接口进行词嵌入向量的生成以及chat模型的调用 由于众所周知的原因，国内调用openai接口并不友好，所以今天介绍两款开源平替实现分别替代词嵌入向量和 阅读全文

摘要： 本文将探讨如何使用c#开发基于大语言模型的私域聊天机器人落地。大语言模型（Large Language Model，LLM 这里主要以chatgpt为代表的的文本生成式人工智能）是一种利用深度学习方法训练的能够生成人类语言的模型。这种模型可以处理大量的文本数据，并学习从中获得的模式，以预测在给定的文 阅读全文

摘要： 参考1：https://www.bilibili.com/read/cv20039815 参考2：https://blog.cmyr.ltd/archives/e740aac.html 服务器：阿里云AI机器学习V100计算卡 OS：windows 10/server 均可 其他： Python 3 阅读全文