君子终日乾乾,夕惕若厉,无咎。|

唐钰逍遥

园龄:9年9个月粉丝:0关注:0

随笔分类 -  Redis

spark 批量写入redis控制
摘要:需求 spark scala 程序 读取hive数据,sparksql解析 然后分批写入redis 原则: 一、尽可能少和redis交互,减少redis写入压力。 二、可以考虑pipeline的操作习惯。 三、不要一个partition只提交一个pipeline 网络传输压力大 内存消耗高 Redi
41
0
0
redis知识点
摘要:redis知识点 场景类 缓存 缓存穿透 定义:大量查询业务不存在的key击穿redis,直接查询数据库. 解决方案: value null 实施:来一个这样的key,写入到缓存中,将其值设置为null。 缺点: 会缓存大量这样的内容,内存存在溢出可能。 后续如果有这样的业务key生成,则缓存中的数
27
0
0
点击右上角即可分享
微信分享提示
深色
回顶
收起