摘要:
最近需要将python文件放到没有python环境的装有windows系统的主机下去运行,这就需要将python文件打包成windows操作系统可直接识别的exe文件,将python文件打包成exe文件有两款主流打包工具分别为pyinstaller和py2exe,由于py2exe只支持python2并且版本已经很久未更新,故这里选用了pyinstaller(我的环境是python3)。但是用过pyinstaller大概都知道它有多坑,懂的都懂,下面就我使用pyinstaller的经历来做个总结。 阅读全文
【异常】SparkSession执行action操作时java.lang.ClassNotFoundException: org.codehaus.commons.compiler.Unchecked
摘要:
问题描述:在之前Spark程序一直没有问题,今天跑的时候就出现找不到类的错误,具体异常栈如下:写了简单的测试发现,是因为执行了Dataset的action操作会出现下面,并且这个找不到的类属于spark-sql所依赖的jar包,发现3.0.0里面确实没有这个类,然后只好在pom文件里面加上2.7.8 阅读全文
摘要:
public static void main(String[] args) throws IOException { //Scan类常用方法说明 //指定需要的family或column ,如果没有调用任何addFamily或Column,会返回所有的columns; // scan.addFam 阅读全文
摘要:
建议您这样操作: 双击virual disk服务,点击“启动”,并在启动类型中选择“自动”,然后重新打开磁盘管理。 如果您安装有虚拟机软件,建议您尝试卸载后再次确认问题。 (没试过,我才懒得重装VMware,而且我的情况不允许我点virual disk服务) 同时您也可以进行干净启动步骤:干净启动步 阅读全文
摘要:
Fri Mar 30 14:55:35 CST 2018 WARN: Establishing SSL connection without server's identity verification is not recommended. According to MySQL 5.5.45+, 阅读全文
摘要:
报错: 1、查看hive使用的mysql连接的jar包, 若为:mysql-connector-java-5.1.17.jar(没带bin的jar包),修改为mysql-connector-java-5.1.46-bin.jar(带bin的jar包之后),就可以正常删除了。 备注:原因和使用的数据库 阅读全文
摘要:
安装mysql数据库 a)下载mysql源安装包:wget http://dev.mysql.com/get/mysql57-community-release-el7-8.noarch.rpm b)安装mysql源:yum localinstall mysql57-community-releas 阅读全文
摘要:
你需要来自SYSTEM的权限才能对此文件夹进行更改 解决流程:右击打开此文件夹属性,如下图,点击高级按钮 出现下图,点击更改: 继续,在输入框中输入e,右击按钮检查名称 出现下图,并确认 勾选替换子容器和对象的所有者,应用并确认: 重新打开该文件夹属性,并选择高级 添加: 选择主体: 在输入框中输入 阅读全文
摘要:
写在前面的废话 现在我们要开始搭建Hadoop集群了,Hadoop包含如下两部分: HDFS, 即Hadoop分布式文件系统 YARN, 即第二代的MapReduce(MR2),解决了第一代MR的诸多问题,例如集群扩展困难(最多三四千台机器),单点故障,资源调度不灵活等.第一代MR只能实现MR算法, 阅读全文
摘要:
同样是在将模块升级到hadoop2的过程中,在intellij idea中好不容易更换了一大堆jar包,修改了一些代码,提交到集群终于能跑了!但是在偶然间用eclipse导出jar提交却报了以下的错误信息: 说是找不到dfs的实现!(真是一个奇葩的问题) 在网上找了很久,大部分的帖子之类的都是说是引 阅读全文