10 2017 档案
摘要:有的时候暴漏nginx的web页面很不安全,需要添加一个认证,本文介绍使用htpasswd工具为nginx添加认证的用户名和密码。 在 nginx 下,提供了 ngx_http_auth_basic_module 模块实现让用户只有输入正确的用户名密码才允许访问web内容。默认情况下,nginx 已
阅读全文
摘要:Spark报错处理 分析:出现这个情况的原因是spark启动的时候设置的是hostname启动的,导致访问的时候DNS不能解析主机名导致。 问题解决: 第一种方法:确保URL是spark://服务器ip:7077,而不是spark://hostname:7077;启动的时候指定-h ip地址 第二种
阅读全文
摘要:Kafka报错处理 1、 记一次kafka报错处理 Kafka停止后,再启动的时候发生了报错: [2017-10-27 09:43:18,313] INFO Recovering unflushed segment 15000679 in log mytest-0. (kafka.log.Log)
阅读全文
摘要:KafkaOffsetMonitor监控kafka 1、 KafkaOffsetMonitor是一个可以用于监控Kafka的Topic及Consumer消费状况的工具,其配置和使用特别的方便。源项目Github地址为:https://github.com/quantifind/KafkaOffset
阅读全文
摘要:Sparkthriftserver启用及优化 1、 概述 sparkthriftserver用于提供远程odbc调用,在远端执行hive sql查询。默认监听10000端口,Hiveserver2默认也是监听10000端口,为了避免冲突,需要修改sparkthriftserver的端口。启用spar
阅读全文