摘要: 1. Hbase概述 1.1 Hbase是什么 HBase是建立在HDFS之上的分布式面向列的数据库;属于KV结构数据,原生不支持标准SQL。它是一个Apache的开源项目,是横向扩展的。 HBase可以提供快速随机访问海量结构化数据。它利用了Hadoop的文件系统(HDFS)提供的容错能力。 HB 阅读全文
posted @ 2021-07-02 16:17 symkmk123 阅读(433) 评论(0) 推荐(0) 编辑
摘要: 数据 List<User> userList = new ArrayList<>(); userList.add(new User(1, "aaa")); userList.add(new User(2, "bbb")); userList.add(new User(3, "ccc")); user 阅读全文
posted @ 2021-07-02 16:16 symkmk123 阅读(91) 评论(0) 推荐(0) 编辑
摘要: mybatis-plus自定义分页、SQL+wrapper一起使用 @Override public Page<TechnologyEnterpriseDto> pageTechnologyEnterprises(TechnologyEnterprisePageReq dto) { QueryWra 阅读全文
posted @ 2021-07-02 16:15 symkmk123 阅读(88) 评论(0) 推荐(0) 编辑
摘要: 操作步骤 参考官方教程 https://cloud.tencent.com/document/product/1154/40217 1. 安装 npm install -g serverless npm install -g hexo-cli hexo init hexo cd hexo npm i 阅读全文
posted @ 2021-07-02 15:06 symkmk123 阅读(150) 评论(0) 推荐(0) 编辑
摘要: 数据导入 功能支持 读取excel、CSV 加入自定义注解校验数据防重 加入导入值跟实体类的类型检查 字典表支持(跟导出一个用法) 支持多种数据场景校验(Validation自带方法实体类校验) 使用方法 @ApiOperation("Excel导入") @PostMapping("uploadEx 阅读全文
posted @ 2021-06-08 16:44 symkmk123 阅读(67) 评论(0) 推荐(0) 编辑
摘要: IJ导入eclipse包乱码问题: 全局解决方案: 设置所在文件夹位置 1、从eclipse导入方式,发现还是乱码 2、导航栏点击文件->设置->editor->文件编码 将所在文件夹位置添加进去,打开就不是乱码了 网上看的点右边提示和右下角编码方式只能改当前页编码 将所在文件夹位置添加进去,打开就 阅读全文
posted @ 2019-07-16 12:45 symkmk123 阅读(1648) 评论(0) 推荐(0) 编辑
摘要: ETL项目2:大数据清洗,处理:使用MapReduce进行离线数据分析并报表显示完整项目 思路同我之前的博客的思路 https://www.cnblogs.com/symkmk123/p/10197467.html 但是数据是从web访问的数据 avro第一次过滤 观察数据的格式,我们主要分析第四个 阅读全文
posted @ 2018-12-29 19:20 symkmk123 阅读(3015) 评论(2) 推荐(1) 编辑
摘要: ETL项目1:大数据采集,清洗,处理:使用MapReduce进行离线数据分析完整项目 思路分析: 1.1 log日志生成 用curl模拟请求,nginx反向代理80端口来生成日志. 1.2 日志切割 1.3 上传日志到HDFS 1.4 错误重试 2.1 需求分析 进行nginx日志的ETL 要求对过 阅读全文
posted @ 2018-12-29 18:19 symkmk123 阅读(5770) 评论(0) 推荐(0) 编辑
摘要: Map--HashMap--TreeMap--红黑树 Map:三种遍历方式 HashMap:拉链法。用哈希函数计算出int值。 用桶的思想去存储元素。桶里的元素用链表串起来,之后长了的话转红黑树。 TreeMap:红黑树。 所以看Map的源码就是把红黑树给拿下。 红黑树 插入:前面找插入位置完全同二 阅读全文
posted @ 2018-10-16 22:13 symkmk123 阅读(290) 评论(0) 推荐(1) 编辑
摘要: 集合总体架构--ArrayList--LinkedList Collection接口的实现类用法上都有相似的方法。Map同理。 List: 特性 : 1. 有索引 2. 有序 3. 不唯一 ArrayList:基于JDK1.8 底层是数组、1.5倍扩容,都在源码里写的 LinkedList:基于JD 阅读全文
posted @ 2018-10-16 21:20 symkmk123 阅读(179) 评论(0) 推荐(0) 编辑