随笔分类 - 问题速记

LLaMa 3.1: rope_scaling 错误

摘要：原因是因为一些基本库和model不匹配了： Q：rope_scaling must be a dictionary with with two fields, name and factor, got {'factor': 8.0, 'low_freq_factor': 1.0, 'high_fre 阅读全文

posted @ 2024-10-28 11:05 EpicMoCN 阅读(526) 评论(0) 推荐(0) 编辑

K8S 调整请求头大小限制：一次debug灾难的随手记录

摘要：事情的起因 2024.10.19，OpenAI ChatGPT 突然将 CR 的 Token 长度变长，并且长的超出我的想象。由于业务需求，镜像站的 Response 回显为 400 Bad Request。查看了一下日志，发现中间出现了几条 Arkose 的请求日志，我心想，丸辣，怎么 Arko 阅读全文

posted @ 2024-10-19 19:26 EpicMoCN 阅读(76) 评论(0) 推荐(0) 编辑

MacOS GoLand 没办法 Debug

摘要：今早，提示 GoLand 更新，一更新立马发现程序没办法 Debug 了，具体提示如下： DW_FORM_strx with no .debug_str_offsets section 解决方案：下载最新版本的 dlv：go install github.com/go-delve/delve/cm 阅读全文

posted @ 2024-10-13 15:19 EpicMoCN 阅读(232) 评论(0) 推荐(0) 编辑