06 2023 档案

摘要:1.清空表、更新批量数据记录之前进行备份操作。 2.生产环境版本升级前,需要在测试环境验证充。 3.环境升级前,升级脚本、相关操作,先在熟悉的同事之间进行评审。 4.版本升级时,自测和测试环节,对重要业务功能进行多个场景的覆盖验证。 可以二维表格梳理需要验证分分支(有时相同的子分支可以只验证1个即可 阅读全文
posted @ 2023-06-30 11:17 seufelix 阅读(6) 评论(0) 推荐(0) 编辑
摘要:1.调用其他系统的一些操作信息都记录到数据表中,方便定位分析处理(如果配套ES,可以存入ES中,如果没有,则记录到关系型数据库中), 也好定界定责,提供有力证据,也可作为业务优化分析的数据来源。 2.同理,被其他服务或前端调用的一些操作信息都记录到数据表中。如果系统中有配套的运维系统,那就用运维系统 阅读全文
posted @ 2023-06-30 11:17 seufelix 阅读(9) 评论(0) 推荐(0) 编辑
摘要:1.具体问题背景 2022年农历年前,为了解决大SQL文件血缘解析不能完整处理的问题。 之前是由于单个线程对文件中的sql语句,进行血缘解析的,当有嵌套层次很深的语句时,线程超时终止(原因未确定), 后代码优化,增加了线程池的多线程处理,每条语句采用单独的线程解析,避免一个语句不能执行,导致整个文件 阅读全文
posted @ 2023-06-30 11:15 seufelix 阅读(9) 评论(0) 推荐(0) 编辑
摘要:一:数据量大后,单个集合存储量过大。 问题:一方面写入过慢,另一方面:查询读取速度也过慢。 解决步骤: 1.按时间维度拆分集合,保证单个集合中在每个节点的shard,数据量在3000-5000万条之间。 这样写入在最近时间归属的集合中操作。 2.写入的时候,按数量进行批次写。(数百至千条之间,经验值 阅读全文
posted @ 2023-06-25 10:49 seufelix 阅读(45) 评论(0) 推荐(0) 编辑
摘要:如果全量数据和增量数据有指定时间,默认近一个月 1. 是否可以通过集合名称中指定当前月份和上月集合,作为一个客户端,如果不行,可以考虑建立别名,该别名中只有近两个月的集合。 2. 其他关系表,更新数据时尽量少从solr中查询,,最后时间以当前的即可(应为bcp文件处理时是有顺序的))、参数(直接即可 阅读全文
posted @ 2023-06-25 10:41 seufelix 阅读(71) 评论(0) 推荐(0) 编辑
摘要: 阅读全文
posted @ 2023-06-25 10:34 seufelix 阅读(32) 评论(0) 推荐(0) 编辑
摘要:1.0.0-alpha 主版本号、次版本号、修订号,先行版本号 稳定上线后,变为1.0.0 (一)问题或简单需求实现 有新问题修改、或简单需求(不涉及新增页面、接口),则增加修订号(一个或多个问题、简单需求) 1.0.1-test.1 -> 1.0.1-test.2 ... 每次开发有修改bug,可 阅读全文
posted @ 2023-06-25 10:21 seufelix 阅读(12) 评论(0) 推荐(0) 编辑