摘要:
最近要做一个实时查询系统,初步协商后系统的框架 1、流式计算:数据都给spark 计算后放回HBase 2、查询:查询采用HBase+Solr/ES 阅读全文
摘要:
用scala实现读取oracle数据增加oralce的jar包后package cn.bigdata.scala.oracleimport java.sql.{DriverManager, Connection, ResultSet}object ConnectOracle { val use... 阅读全文
摘要:
何谓荷兰国旗:现有红、白、蓝三个不同颜色的小球,乱序排列在一起,请重新排列这些小球,使得红白蓝三色的同颜色的球在一起。这个问题之所以叫荷兰国旗,是因为我们可以将红白蓝三色小球想象成条状物,有序排列后正好组成荷兰国旗。问题转换为:给定数组A[0…N-1],元素只能取0、1、2三个值,设计算法,使得数组... 阅读全文
摘要:
从数组中任意取出2个数,判断他们的和是否为输入的数字sum,时间复杂度为0(n^2),空间复杂度0(1)假设数据已经是排序好的#include #include #include using namespace std;int a[] = {1,2,3,4,5,6,7,8,9,10};int siz... 阅读全文
摘要:
今天在测试环境下的集群重启了下,启动Hbase的时候报错:$ sh start-hbase.sh starting master, logging to /home/hadoop/hbase-0.96.1.1-cdh5.0.2/logs/hbase-hadoop-master-master241.... 阅读全文
摘要:
今天在java 上运行spark查询的时候出现一个问题:java.lang.NoSuchMethodError: com.google.common.hash.HashFunction.hashInt(I)Lcom/google/common/hash/HashCode;后google 了一下找到了... 阅读全文
摘要:
执行java调用scala 打包后的jar时候出现异常 /14 23:57:08 WARN TaskSchedulerImpl: Initial job has not accepted any resources; check your cluster UI to ensure that wor... 阅读全文
摘要:
问题:将scala打成jar包,提供给java调用,但是java一直提示找不到类实现功能:利用spark查询hbase数据,然后提供给外部接口调用我的方式:spark查询Hbase用scala实现(已经完成),将scala打成jar 包提供给java调用一直提示找不到scala 中的主类问题原因:s... 阅读全文
摘要:
基本环境:我是在win7环境下,spark1.0.2,HBase0.9.6.1 使用工具:IDEA14.1, scala 2.11.6, sbt。我现在是测试环境使用的是单节点1、使用IDEA创建一个sbt的工程后,在build.sbt文件加入配置文件libraryDependencies += ... 阅读全文