MySQL json_merge with group by
概述
在数据处理中,经常遇到的一种数据类型就是JSON,MySQL数据库解析JSON,参考
json_merge with group by
需求:
对于如下多条json array数据,希望通过其他字段group by实现拼接,得到[{"ruleId": 36, "ruleName": "包赔"},{"ruleId": 27, "ruleName": "定期彩虹"},{"ruleId": 28, "ruleName": "理财产品"}]
这样的完整的数据
json_merge貌似无法实现?
解决方案:concat('[', group_concat(DISTINCT substring(hit_rule, 2, char_length(hit_rule) - 2)), ']')
注意:
- 不能使用
length
,而要使用char_length
,一个中文字符等于3个英文字符;
- 增加一个DISTINCT用于去重。但是distinct是对
substring(hit_rule, 2, char_length(hit_rule) - 2)
整体进行distinct的,而这个结果是一个json array,不同的记录行完全可能含有相同的json object,只能到业务代码层去进行distinct? - 当数据量上来后,group_concat拼接的结果不是一个json!!因为默认的group_concat有长度限制。临时性的解决方法:在SQL前追加一条
SET SESSION group_concat_max_len=102400;
。执行时需要选中前述设置语句(当然两个分号的SQL语句不能写在mybatis mapper xml文件里面)。永久性的解决方法:找DBA在MySQL配置文件中加上group_concat_max_len = 102400
- 若数据库里面存在空的json array(非脏数据),即
hit_rule=[]
,上面的concat结果会得到脏数据,即不是一个合法的json array,例如:[,{"ruleId": 36, "ruleName": "包赔"}]
,不过!在使用阿里的fastjson这个jar包时,JSONArray.parseArray()
不会出错,能兼容!!
参考
MySQL修改group_concat的长度限制
mysql-json-merge-and-group-by
mysql-distinct-on-a-group-concat
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
2019-01-12 Java学习之JDK9新特性