随笔分类 - 02-LLM
人工智能、大语言模型、Semantic Kernel
摘要:SK也对应了文生图的功能,本文中分别使用的是GPT的DALL·E 2和DALL·E 3来生成图版,虽然不如专业的文生图那么专业,但提示词到位,在一些场景中还是可用的。 下面是最简单的文生图的代码实现,通过TextToImage服务来完成生成,GPT中生成图的尺寸要求是:256x256, 512x51
阅读全文
摘要:多模态是每个LLM具有的能力,图片又是最常见的信息载体,GPT对图片的识别也很早就有了,随着GPT版本的迭代,效果越来越好。SK也是在很多就适配了图识文,只不过最近版本才支持本地图片的上传。 代码: var builder = Kernel.CreateBuilder() .AddOpenAICha
阅读全文
摘要:RAG(Retrieval-Augmented Generation)是一种结合信息检索和生成模型的自然语言处理方法。它通过检索相关文档片段作为生成模型的上下文,提高生成文本的准确性和相关性。RAG广泛应用于问答系统、对话系统和文本摘要等领域,兼具高效性和灵活性。公司的客户机器人都特别适合。下面的案
阅读全文
摘要:参考:https://mp.weixin.qq.com/s/swPPTyIJa-2OJcyycBVJNQ 代码: //接入星火AI var httpClient = new HttpClient(new XinghuoOpenAIHttpClientHandler()); var builder =
阅读全文
摘要:参考:https://www.cnblogs.com/ruipeng/p/18241147 代码 /// <summary> /// 依赖注入案例 /// </summary> public static class DependencyInjectionSample { public static
阅读全文
摘要:2023年4月13日,Microsoft发布了一个 Semantic Kernel 的 VS Code 插件,Semantic Kernel Tools,用于进行Semantic Function的开发和调试工作。 Semantic Kernel Tools的安装只需要VS Code即可,不需要额外
阅读全文
摘要:在 chatGPT 的推动下。LLM 简直火出天际,各行各业都在蹭。听说最近 meta 开源的 llama3 模型可以轻松在普通 PC 上运行,这让我也忍不住来蹭一层。以下是使用 ollama 试玩 llama3 的一些记录。 什么是 llama LLaMA(Large Language Model
阅读全文
摘要:Semantic Kernel默认主要支持两款模型:OpenAI和AzureOpenAI。对于开发者来说,这显然是不够的,尤其是当我们希望对接国内的一些强大模型,比如百度的文心一言、阿里的通义千问、搜狗的百川、智谱ChatGLM、科大讯飞的星火等。那么,我们应该怎么做呢? Semantie Kern
阅读全文
摘要:参考: https://www.cnblogs.com/ruipeng/p/18221666 代码: var builder = Kernel.CreateBuilder() .AddOpenAIChatCompletion(modelId: Config.OpenAiChatModel, Conf
阅读全文
摘要:插件 插件是Semantic Kernel的核心组件。通过插件,你可以将现有的API封装成一个集合,供AI调用,从而赋予AI原本无法执行的操作能力。在背后,Semantic Kernel利用了最新大型语言模型(LLM)中的原生功能——Function Calling,来帮助LLM进行规划并调用API
阅读全文
摘要:你是否有这样的经历,在与ChatGPT对话时,写出的文章总是缺乏情感,内容生硬?如果你的答案是肯定的,那么这篇文章可能会帮到你。今天给大家分享几个实用技巧,让你和ChatGPT的对话更加顺畅和高效,写出有人味,有创意、自己想要的内容。 首先我们先来了解一下ChatGPT是什么?它是一个基于人工智能的
阅读全文
摘要:生成式AI之所以火爆,是通过ChatGPT引起的,因为这种智能对话(chat)式交互,颠覆人们对人机对话的认识和理解,它可以真人一样把上下文串起来,进行整体的理解和回复。当然,SK会在早期的版中就进行了适配,SK让聊天上下文留存是通过ChatHistory实现的,并且这些内存会区分角色,当前1.15
阅读全文
摘要:# ChatGPT ``` //chatGPT { var chatGPT = kernel.GetService(); var chatHistory = chatGPT.CreateNewChat("你是图书管理员"); Console.WriteLine("请提问:"); while (tru
阅读全文
摘要:# 为什么需要Memory LLM对自然语言的理解和掌握在知识内容的解读和总结方面提供了强大的能力。 但是由于训练数据本身来自于公共领域,也就注定了无法在一些小众或者私有的领域能够足够的好的应答。 因此如何给`LLM `提供足够多的信息上下文,就是如今的`LLM AI应用`可以充分发挥能力的地方了。
阅读全文
摘要:Semantic Kernel 是一种轻量级应用开发框架,用于快速开发融合 LLM AI的现代应用。以下简称SK 名词解释 LLM:大语言模型 Prompt:简单的理解它是给 AI 模型的指令。 Prompt Engineering:中文意思为提示工程,是一种人工智能(AI)技术,它通过设计和改进
阅读全文