摘要: 在一次集群重启之后,发现namenode节点启动失败,通过日志查看发现如下问题,在网上搜了一大堆,大多数是建议执行 hadoop namenode -recover 尝试过执行,发现会出现连接拒绝的异常(后期排查确定是VPN)造成的,pass掉这一种方法之后,我选择了通过复制其中一个数据看上去较为正 阅读全文
posted @ 2022-10-09 11:45 hadoop是大象 阅读(706) 评论(0) 推荐(0) 编辑
摘要: 打开Project Structure,选择新增Modules, 将你有问题的Module导入,一路Next, 选择Select All, 即可解决问题 阅读全文
posted @ 2022-07-25 11:27 hadoop是大象 阅读(5356) 评论(0) 推荐(0) 编辑
摘要: 最近公司停电,导致服务器异常关机,出现文件损坏问题,如下: 此时文件replication-offset-checkpoint是不可删除和读取的,将导致kafka在这个节点上无法启动。 如果replication-offset-checkpoint文件所在目录不是挂载在 / 下,并且你觉得有必要恢复 阅读全文
posted @ 2020-07-06 17:18 hadoop是大象 阅读(903) 评论(0) 推荐(0) 编辑
摘要: 以下内容来至https://cloud.tencent.com/developer/article/1008487,仅做备忘。 简介 现在几乎所有的O2O应用中都会存在“按范围搜素、离我最近、显示距离”等等基于位置的交互,那这样的功能是怎么实现的呢?本文提供的实现方式,适用于所有数据库。 实现 为了 阅读全文
posted @ 2019-11-08 11:54 hadoop是大象 阅读(1070) 评论(0) 推荐(0) 编辑
只有注册用户登录后才能阅读该文。 阅读全文
posted @ 2019-09-16 11:29 hadoop是大象 阅读(3) 评论(0) 推荐(0) 编辑
摘要: 将异常输出到 log日志文件 实际项目中的使用: <dependencies> <dependency> <groupId>org.slf4j</groupId> <artifactId>slf4j-api</artifactId> <version>1.7.2</version> </depend 阅读全文
posted @ 2019-03-28 16:33 hadoop是大象 阅读(2552) 评论(0) 推荐(0) 编辑
摘要: 用此方法可能会出现 中文乱码问题,hdfs上的文件和自己期待存入的内容有差异。 可以在 jsonObject.toString().getBytes("") 处将我们的编码格式指定为: 基本可以解决问题 今日发现,在GBK编码下,从浏览器直接打开hdfs文件不会出现乱码,但是在shell终端通过#> 阅读全文
posted @ 2019-03-18 11:42 hadoop是大象 阅读(4302) 评论(0) 推荐(0) 编辑
摘要: impala中使用复杂类型(Hive): 如果Hive中创建的表带有复杂类型(array,struct,map),且储存格式(stored as textfile)为text或者默认,那么在impala中将无法查询到该表解决办法: 另建一张字段一致的表,将stored as textfile改为st 阅读全文
posted @ 2019-02-22 18:23 hadoop是大象 阅读(1593) 评论(0) 推荐(0) 编辑
摘要: Kudu: 针对 Apache Hadoop 平台而开发的列式存储管理器。使用场景: 适用于那些既有随机访问,也有批量数据扫描的复合场景。 高计算量的场景。 使用了高性能的存储设备,包括使用更多的内存。 支持数据更新,避免数据反复迁移。 支持跨地域的实时数据备份和查询。 kudu的关键机制:1.模仿 阅读全文
posted @ 2019-02-22 13:19 hadoop是大象 阅读(3885) 评论(0) 推荐(0) 编辑
摘要: Habse创建一张表: 1,创建一个命名空间NameSpace(命名空间NameSpace指的是一个表的逻辑分组 ,同一分组中的各个表有类似的用途,相当于关系型数据库中的DataBase) admin.createNamespace(NamespaceDescriptor.create("MyNam 阅读全文
posted @ 2019-02-21 15:27 hadoop是大象 阅读(2629) 评论(0) 推荐(0) 编辑