摘要:
hive连接beeline可以,但 报错: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient >>> 把mysql-conne 阅读全文
摘要:
一、上传文件 hdfs dfs -mkdir -p /party/data hdfs dfs -put /opt/data/event_data/*.csv /party/data 二、Data Exploration 【数据探索:数据有没有毛病,保证质量】 开启spark ./spark-shel 阅读全文
摘要:
With语句的基本语法格式: with expression [as target]: with_body 参数说明: expression:是一个需要执行的表达式; target:是一个变量或者元组,存储的是expression表达式执行返回的结果,可选参数。 with opened(r'd:\\ 阅读全文
摘要:
hive: https://www.cnblogs.com/yanshw/p/12058160.html https://www.cnblogs.com/qingyunzong/p/8847597.html spark: https://www.cnblogs.com/yanshw/p/120581 阅读全文
摘要:
示例: ① mysql dump 连表带数据导出 (热备:热备份是系统处于正常运转状态下的备份) 导出没有库 mysqldump -u root -p root > ttt.sql ② 导入新数据库 create database new_database;use new_database; sou 阅读全文
摘要:
一、大数据介绍 (一)大数据趋势 不局限于Hadoop,格局小了 还有Cloud作为存储平台(new data lake) 使用Nosql接管 hbase mongodb cassandra Spark & ML 流式处理 + 批处理 => 结合 Spark 2.0+ & Flink 1.9+ Va 阅读全文
摘要:
一、安装 python3 安装:https://www.cnblogs.com/xiujin/p/11477419.html 二、如何写一个py文件 1.找到python解释器的路径 which python 题头: #!/usr/bin/python 或者 #!/usr/bin/env pytho 阅读全文
摘要:
String对长度没有限制! 阅读全文
摘要:
一、pom <dependencies> <!-- https://mvnrepository.com/artifact/org.apache.hive/hive-jdbc --> <dependency> <groupId>org.apache.hive</groupId> <artifactId 阅读全文
摘要:
一、生成 springboot选择 spring-boot-starter-parent -> 2.2.11.RELEASE java -> 1.8 mybatis-spring-boot-starter -> 2.1.4 mysql-connector-java -> 5.1.38 depende 阅读全文