带刺的坐椅

摘要： Tool call（函数调用）是大语言模型连接外部系统和数据的关键技术，通过定义可调用的函数工具实现实时数据查询或指令交互。开发方式包括注解声明、构建声明和接口实现三种，支持参数类型灵活定义。工具可通过returnDirect控制是否直接返回结果，无需模型二次加工。工具添加支持全局默认和请求级作用域，适用于天气查询、联网搜索等场景。核心接口包括FunctionTool、ToolProvider及相关注解，简化了工具开发流程。 阅读全文

摘要： Tool Call（工具调用）是大模型的一种接口特性，允许开发者预定义函数并由模型判断是否需要调用。它通过JSON格式传递函数名和参数，由宿主应用执行后返回结果。该功能支持模型访问自定义代码，可能选择调用函数而非仅生成文本。执行结果会被合并到最终响应中，实现外部工具与数据的集成。 阅读全文

摘要： 本文介绍了如何通过ChatSession实现大语言模型的会话记忆功能。主要内容包括：1）使用ChatSession接口记录对话历史，作为提示语参数传递给模型；2）基于Web的会话记忆实现方案，利用Map存储会话；3）定制持久化方案，如JDBC或Redis实现；4) ChatSession接口设计，包含会话ID管理、消息增删查改、序列化等功能。文章提供了Java代码示例，展示了如何构建有状态的对话系统，解决大语言模型无状态服务的问题。 阅读全文

摘要： 本文介绍了大模型对多媒体内容的理解能力，包括图像、音频和视频三种类型。针对每种媒体类型，提供了相应的接口使用方法：Image接口支持URL、Base64字符串或字节数组创建图片；Audio和Video接口支持通过URL创建音频和视频。示例代码展示了如何将多媒体内容与提示语一起提交给大模型进行处理，实现内容识别和理解功能。这种能力扩展了大模型在多媒体分析领域的应用场景。 阅读全文

摘要： Solon v3.7 引入 JSpecify 空安全注解，通过编译期静态分析预防 NPE 问题。核心特性包括默认非空规则（@NullMarked）、显式可空标注（@Nullable）以及对集合类型的精细控制。实际案例展示了如何通过注解明确方法参数和返回值的空值语义，同时介绍了项目配置步骤和 NullAway 集成方案。该方案将传统的运行时空指针检查提前到编译阶段，显著提升代码健壮性和可维护性。 阅读全文

摘要： 本文介绍了大语言模型提示语的消息类型及构建方式。主要内容包括：1）四种消息类型（用户消息、系统消息、助理消息、工具消息）的结构与属性；2）用户消息的三种构建方式：基本消息、格式化上下文和定制模板；3）消息增强技术，通过附加上下文实现RAG技术；4）多角色混合提示增强示例，展示如何组合不同消息类型实现多轮对话。文章提供了详细的Java代码示例，说明各类消息的具体应用场景和使用方法。 阅读全文

摘要： 本文介绍了HTTP流式输出的两种常见方式：SSE(Server Sent Event)和NDJSON(Newline-Delimited JSON)。SSE以空行分隔消息块，每个消息块包含必选的data属性；NDJSON则以换行符分隔JSON消息块。文章提供了Java示例代码展示两种实现方式，并说明Solon框架提供了作为客户端接收流式数据的能力，包括获取文本行流和SSE流。最后指出Solon的HttpUtils工具支持这两种流式数据的客户端接收。 阅读全文

摘要： 本文介绍了聊天模型的接口风格支持情况，重点阐述了不同平台（如DeepSeek-V3、ollama、阿里百炼等）的接口适配方案。框架内置支持openai、ollama和dashscope三种方言适配，并详细说明了各适配的配置要求和使用场景。文章还提供了方言依赖包的分类说明，包括核心包和具体方言包。最后展示了聊天方言接口的定义和OllamaChatDialect的定制实现示例，说明了如何通过匹配检测、构建消息节点等方式实现方言适配。 阅读全文

摘要： Solon框架通过摒弃Java EE规范依赖，构建了一个轻量高效的微服务开发平台。其设计优势体现在：1）彻底轻量化，实现极速启动和低资源占用；2）容器中立性，灵活适配多种网络I/O技术；3）专注核心功能，简化开发复杂度；4）紧密跟进Java SE新特性。这些特性使Solon在云原生时代展现出比传统框架更优异的性能表现和适应性，成为现代Java微服务开发的创新选择。 阅读全文

摘要： Solon框架的聊天模型接口(ChatModel)提供了多种交互方式，包括同步调用(call)、流式调用(stream)、工具调用(Tool Call)等功能。支持通过YAML配置或手动方式构建模型，可设置API地址、提供商、模型类型等参数。接口支持同步获取完整响应和异步流式响应(基于reactivestreams规范)，并能与Solon-Flow集成。内置的模型日志功能会记录请求和响应信息，便于调试。该接口设计灵活，可适配多种响应式框架如Mutiny、RxJava或Reactor。 阅读全文