摘要:
在一次集群重启之后,发现namenode节点启动失败,通过日志查看发现如下问题,在网上搜了一大堆,大多数是建议执行 hadoop namenode -recover 尝试过执行,发现会出现连接拒绝的异常(后期排查确定是VPN)造成的,pass掉这一种方法之后,我选择了通过复制其中一个数据看上去较为正 阅读全文
摘要:
打开Project Structure,选择新增Modules, 将你有问题的Module导入,一路Next, 选择Select All, 即可解决问题 阅读全文
摘要:
最近公司停电,导致服务器异常关机,出现文件损坏问题,如下: 此时文件replication-offset-checkpoint是不可删除和读取的,将导致kafka在这个节点上无法启动。 如果replication-offset-checkpoint文件所在目录不是挂载在 / 下,并且你觉得有必要恢复 阅读全文
摘要:
以下内容来至https://cloud.tencent.com/developer/article/1008487,仅做备忘。 简介 现在几乎所有的O2O应用中都会存在“按范围搜素、离我最近、显示距离”等等基于位置的交互,那这样的功能是怎么实现的呢?本文提供的实现方式,适用于所有数据库。 实现 为了 阅读全文
只有注册用户登录后才能阅读该文。 阅读全文
摘要:
将异常输出到 log日志文件 实际项目中的使用: <dependencies> <dependency> <groupId>org.slf4j</groupId> <artifactId>slf4j-api</artifactId> <version>1.7.2</version> </depend 阅读全文
摘要:
用此方法可能会出现 中文乱码问题,hdfs上的文件和自己期待存入的内容有差异。 可以在 jsonObject.toString().getBytes("") 处将我们的编码格式指定为: 基本可以解决问题 今日发现,在GBK编码下,从浏览器直接打开hdfs文件不会出现乱码,但是在shell终端通过#> 阅读全文
摘要:
impala中使用复杂类型(Hive): 如果Hive中创建的表带有复杂类型(array,struct,map),且储存格式(stored as textfile)为text或者默认,那么在impala中将无法查询到该表解决办法: 另建一张字段一致的表,将stored as textfile改为st 阅读全文
摘要:
Kudu: 针对 Apache Hadoop 平台而开发的列式存储管理器。使用场景: 适用于那些既有随机访问,也有批量数据扫描的复合场景。 高计算量的场景。 使用了高性能的存储设备,包括使用更多的内存。 支持数据更新,避免数据反复迁移。 支持跨地域的实时数据备份和查询。 kudu的关键机制:1.模仿 阅读全文
摘要:
Habse创建一张表: 1,创建一个命名空间NameSpace(命名空间NameSpace指的是一个表的逻辑分组 ,同一分组中的各个表有类似的用途,相当于关系型数据库中的DataBase) admin.createNamespace(NamespaceDescriptor.create("MyNam 阅读全文