C# AIModelRouter:使用不同的AI模型完成不同的任务
1.使用C#将几个Excel文件合并去重分类2.C#使用SqlSugar操作MySQL数据库实现简单的增删改查3.C#中的类和继承4.C#中的virtual和override关键字5.C#中的属性6.C#winform中使用SQLite数据库7.C#简化工作之实现网页爬虫获取数据8.C#中的委托(一)9.C#中的ref关键字10.C#中out关键字11.C#中内置的泛型委托Func与Action12.在winform blazor hybrid中绘图13.使用C#如何监控选定文件夹中文件的变动情况?14.C#设计模式之策略模式15.由浅入深理解C#中的事件16.C#设计模式之观察者模式17.C#设计模式之单例模式18.C#基于ScottPlot进行可视化19.C#使用MiniExcel导入导出数据到Excel/CSV文件20.winform实现最小化至系统托盘21.C#使用Bogus生成测试数据22.SemanticKernel如何基于自有数据聊天23.在winform中如何嵌入第三方软件窗体✨24.在winform中如何实现双向数据绑定?25.自己动手做一个批量doc转换为docx文件的小工具26.WPF中动画教程(DoubleAnimation的基本使用)27.WPF动画教程(PointAnimationUsingPath的使用)28.C#使用PaddleOCR进行图片文字识别✨29.WPF基础:在Canvas上绘制图形30.WPF/C#:让绘制的图形可以被选中并将信息显示在ListBox中31.使用归一化盒过滤器对图像进行平滑处理32.WPF/C#:如何显示具有层级关系的数据33.将彩色图转化为灰度图及其原理介绍34.WPF/C#:ProgressBar的基本使用35.在VB.NET项目中使用C#编写的代码36.WPF/C#:理解与实现WPF中的MVVM模式37.SemanticKernel:添加插件38.Avalonia:一个.NET跨平台UI框架39.WPF/C#:异常处理40.WPF/C#:程序关闭的三种模式41.wpfui:一个开源免费具有现代化设计趋势的WPF控件库42.WPF/C#:如何将数据分组显示43.WPF/C#:更改界面的样式44.LiveCharts2:简单灵活交互式且功能强大的.NET图表库45.WPF/C#:显示分组数据的两种方式46.WPF/C#:在DataGrid中显示选择框47.WPF/C#:数据绑定到方法48.WPF/C#:BusinessLayerValidation49.WPF/C#:如何实现拖拉元素50.WPF在.NET9中的重大更新:Windows 11 主题51.ONNX Runtime入门示例:在C#中使用ResNet50v2进行图像识别52.动手学Avalonia:基于SemanticKernel与硅基流动构建AI聊天与翻译工具53.Avalonia应用在基于Linux的国产操作deepin上运行54.如何让其他模型也能在SemanticKernel中调用本地函数55.大语言模型的应用探索—AI Agent初探!56.动手学Avalonia:基于硅基流动构建一个文生图应用(一)57.WPF/C#:在WPF中如何实现依赖注入58.ScreenToGif:一款开源免费且好用的录屏转Gif软件59.WPF/C#:实现导航功能60.关于学习.NET的历程回顾与今后的探索实践方向61.入门Vue+.NET 8 Web Api记录(一)62.SemanticKernel/C#:检索增强生成(RAG)简易实践63.SemanticKernel/C#:使用Ollama中的对话模型与嵌入模型用于本地离线场景64.SemanticKernel/C#:实现接口,接入本地嵌入模型65.EF Core连接PostgreSQL数据库66.基于SiliconCloud快速体验GraphRag.Net67.AvaloniaChat:一个基于大语言模型用于翻译的简单应用68.最佳实践:在AvaloniaChat中接入SiliconCloud69.AvaloniaChat—从源码构建指南70.SimpleRAG:基于WPF与Semantic Kernel实现的一个简单的RAG应用71.Semantic Kernel/C#:接入智谱AI的两种方式72.AvaloniaChat-v0.0.2:兼容智谱AI 快速使用指南73.使用SiliconCloud快速体验SimpleRAG(手把手教程)74.使用Ollama本地离线体验SimpleRAG(手把手教程)75.Semantic Kernel/C#:一种通用的Function Calling方法,文末附经测试可用的大模型76.在SimpleRAG中使用SiliconCloud快速测试Function Calling77.SimpleTranslationAIAgent:基于C#与LLM的翻译AI Agent78.SimpleTranslationAIAgent借助SiliconCloud API 构建自己的专属翻译助手79.SimpleAISearch:C# + DuckDuckGo 实现简单的AI搜索80.SimpleAIAgent:使用免费的glm-4-flash即可开始构建简单的AI Agent应用81.SimpleRAG-v1.0.3:增加文件对话功能82.如何自己动手实现一个图片解答小助手83.AvaloniaTCP-v1.0.0:学习使用Avalonia/C#进行TCP通讯的一个简单Demo84.Microsoft.Extensions.AI 初探85.TesseractOCR-GUI:基于WPF/C#构建TesseractOCR简单易用的用户界面86.VLM-OCR-Demo:一个使用VLM用于OCR任务的示例87.C#调用Python脚本的方式(一),以PaddleOCR-GUI为例88.C#调用Python代码的方式(二),以PaddleOCR-GUI为例89.C#使用Tesseract C++ API过程记录90.C#调用C++代码,以OpenCV为例91.使用C#构建一个论文总结AI Agent92.PaperAssistant:使用Microsoft.Extensions.AI实现
93.C# AIModelRouter:使用不同的AI模型完成不同的任务
AIModelRouter
AI模型路由,模型的能力有大小之分,有些简单任务,能力小一点的模型也能很好地完成,而有些比较难的或者希望模型做得更好的,则可以选择能力强的模型。为什么要这样做呢?可以降低AI模型的使用成本,毕竟能力强的模型会更贵一点,省着用挺好的。
Semantic Kernel中可以很简便地使用一个AIModelRouter。
实践
先来一个简单的例子
来自https://github.com/microsoft/semantic-kernel/tree/main/dotnet/samples/Demos/AIModelRouter
新建一个CustomRouter类,如下所示:
internal sealed class CustomRouter()
{
internal string GetService(string lookupPrompt, List<string> serviceIds)
{
// The order matters, if the keyword is not found, the first one is used.
foreach (var serviceId in serviceIds)
{
if (Contains(lookupPrompt, serviceId))
{
return serviceId;
}
}
return serviceIds[0];
}
// Ensure compatibility with both netstandard2.0 and net8.0 by using IndexOf instead of Contains
private static bool Contains(string prompt, string pattern)
=> prompt.IndexOf(pattern, StringComparison.CurrentCultureIgnoreCase) >= 0;
}
新建一个SelectedServiceFilter类用于打印一些信息:
internal sealed class SelectedServiceFilter : IPromptRenderFilter
{
/// <inheritdoc/>
public Task OnPromptRenderAsync(PromptRenderContext context, Func<PromptRenderContext, Task> next)
{
Console.ForegroundColor = ConsoleColor.Yellow;
Console.WriteLine($"Selected service id: '{context.Arguments.ExecutionSettings?.FirstOrDefault().Key}'");
Console.ForegroundColor = ConsoleColor.White;
Console.Write("Assistant > ");
return next(context);
}
}
使用多个模型:
为捕获路由器选择的服务 ID 添加自定义过滤器:
开启一个聊天循环:
Console.ForegroundColor = ConsoleColor.White;
ChatHistory history = [];
string history1 = string.Empty;
bool isComplete = false;
do
{
Console.WriteLine();
Console.Write("> ");
string? input = Console.ReadLine();
if (string.IsNullOrWhiteSpace(input))
{
continue;
}
if (input.Trim().Equals("EXIT", StringComparison.OrdinalIgnoreCase))
{
isComplete = true;
break;
}
if (input.Trim().Equals("Clear", StringComparison.OrdinalIgnoreCase))
{
history.Clear();
history1 = " ";
Console.WriteLine("已清除聊天记录");
continue;
}
history.Add(new ChatMessageContent(AuthorRole.User, input));
history1 += $"User:{input}\n";
Console.WriteLine();
// Find the best service to use based on the user's input
KernelArguments arguments = new(new PromptExecutionSettings()
{
ServiceId = router.GetService(input, serviceIds).Result,
FunctionChoiceBehavior = FunctionChoiceBehavior.Auto()
});
// Invoke the prompt and print the response
//await foreach (var chatChunk in kernel.InvokePromptStreamingAsync(userMessage, arguments).ConfigureAwait(false))
//{
// Console.Write(chatChunk);
//}
var result = await kernel.InvokePromptAsync(history1, arguments).ConfigureAwait(false);
Console.ForegroundColor = ConsoleColor.White;
Console.WriteLine(result);
Console.WriteLine();
// Add the message from the agent to the chat history
history.AddMessage(AuthorRole.Assistant, result.ToString());
history1 += $"Assistant:{result}\n";
} while (!isComplete);
}
}
来看看现在这个简单的路由规则:
当你的提问中包含一个ServiceId的时候,就会选择那个服务ID对应的模型进行回复,如果不包含就选择第一个服务ID对应的模型进行回复。
实际上这样使用,很容易让AI迷惑,因为我们总是要带上一个ServiceId,如果让AI根据用户的提问,自己决定用哪个模型是更好的。
进阶使用,用AI自己来决定
使用一个靠谱的AI模型来做这个事情比较好。
我们输入你好,那么Prompt就会变成这样:
AI返回的结果如下:
再试试其他几个怎么触发:
而工具调用与其他比较容易混淆,因为就算是我们自己,也很难分辨有什么区别:
这时候或许修改Prompt可以奏效。
修改后的Prompt如下:
string skPrompt = """
根据用户的输入,返回最佳服务ID。
如果用户需要获取当前时间与写邮件,则选择工具调用相关的服务ID。
用户输入:
{{$input}}
服务ID列表:
{{$serviceIds}}
无需返回任何其他内容,只需返回服务ID。
""";
效果如下所示:
以上就是本次分享的全部内容,希望对你有所帮助。
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Deepseek官网太卡,教你白嫖阿里云的Deepseek-R1满血版
· 2分钟学会 DeepSeek API,竟然比官方更好用!
· .NET 使用 DeepSeek R1 开发智能 AI 客户端
· DeepSeek本地性能调优
· autohue.js:让你的图片和背景融为一体,绝了!