摘要: 1 maven依赖 <!-- Hibernate Validator 用于数据验证 --> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-validation</art 阅读全文
posted @ 2024-08-06 11:14 linzm14 阅读(138) 评论(0) 推荐(0) 编辑
摘要: 1 controller @SneakyThrows @PostMapping(value = "/v1/chat/completions", produces = {TEXT_EVENT_STREAM_VALUE, APPLICATION_JSON_VALUE}) @Operation(summa 阅读全文
posted @ 2024-06-19 11:09 linzm14 阅读(26) 评论(0) 推荐(0) 编辑
摘要: 推理代码 text-generation-webui 推理模型 Qwen1.5-7B-Chat sys infogpu: Tesla V100-PCIE-32GBpython: 3.10model:Qwen1.5-7B-Chatdocker docker run -it --rm --gpus='" 阅读全文
posted @ 2024-05-09 11:23 linzm14 阅读(1180) 评论(0) 推荐(0) 编辑
摘要: 模型路径 up主为 llama中文社区 模型地址 https://www.modelscope.cn/models/FlagAlpha/Llama3-Chinese-8B-Instruct/summary sys info gpu: Tesla V100-PCIE-32GB python: 3.10 阅读全文
posted @ 2024-05-09 11:19 linzm14 阅读(1020) 评论(0) 推荐(0) 编辑
摘要: vllm 版本 4.0.0 镜像 vllm github 官方镜像 gpu v100 32g a800 80g openai api 方式 出现的问题通过 chat-template 聊天模板解决 1 推理部署qwen系列模型 测试 我是谁 问题:回答内容含有分词符,回答有杂论冗余内容 模型文件没有 阅读全文
posted @ 2024-04-26 15:52 linzm14 阅读(2936) 评论(3) 推荐(0) 编辑
摘要: 0 springboot 版本 <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>3.0.3</version> <rel 阅读全文
posted @ 2024-03-13 16:39 linzm14 阅读(275) 评论(0) 推荐(0) 编辑
摘要: 请求https接口异常 Caused by: javax.net.ssl.SSLHandshakeException: PKIX path building failed: sun.security.provider.certpath.SunCertPathBuilderException: una 阅读全文
posted @ 2024-01-15 16:38 linzm14 阅读(843) 评论(0) 推荐(0) 编辑
摘要: @JsonNaming(PropertyNamingStrategy.SnakeCaseStrategy.class) @JsonProperty("access_token")private String accessToken; @JsonFormat(timezone = "GMT+8", p 阅读全文
posted @ 2024-01-12 12:01 linzm14 阅读(3) 评论(0) 推荐(0) 编辑
摘要: 划水。。。 CommandLineRunner、ApplicationRunner、InitializingBean、@PostConstruct 执行顺序 InitializingBean 是 Spring 提供的一个接口,它只有一个方法 afterPropertiesSet(),该方法会在容器初 阅读全文
posted @ 2023-12-27 15:50 linzm14 阅读(226) 评论(0) 推荐(0) 编辑
摘要: 1 在mysql 5.7 支持json类型,那么在表实体是怎么运用的 在mybatis-plus 中有相关的handler /** * Jackson 实现 JSON 字段类型处理器 * * @author hubin * @since 2019-08-25 */ @Slf4j @MappedTyp 阅读全文
posted @ 2023-12-11 09:25 linzm14 阅读(2828) 评论(0) 推荐(0) 编辑