郑汉润

摘要： helloworld 创建一个名称为hello的java文件 然后使用notepad++打开 并编写代码 代码： 使用 javac 对文件进行编译，完成以后会生成一个class文件然后使用 java进行运行 阅读全文

摘要： #盘符切换 D: #查看当前目录下的所有文件 dir #切换文件夹目录 1. cd .. 返回上一级目录 2. cd +目录名称 进入该目录 3.cd /d c: 进入C盘 4. cls 清理屏幕 （clear screen） 5.退出终端 exit # 查看电脑ip ipconfig #打开应用 阅读全文

摘要： 大作业： 1.选择使用什么数据，有哪些字段，多大数据量。 数据：us-counties美新冠数据 字段：日期、国家、洲、病例、死亡数 2.准备分析哪些问题，可视化方式？（8个以上） (1) 美国每日的累计确诊病例数和死亡数——>双柱状图 (2) 美国每日的新增确诊病例数和死亡数——>折线图 (3) 阅读全文

摘要： spark连接mysql数据库 1、安装启动检查Mysql服务。 netstat -tunlp (3306) 2、spark 连接mysql驱动程序。 –cp /usr/local/hive/lib/mysql-connector-java-5.1.40-bin.jar /usr/local/spa 阅读全文

摘要： 读学生课程分数文件chapter4-data01.txt，创建DataFrame。 一、用DataFrame的操作完成以下数据分析要求 每个分数+5分。 总共有多少学生？ 总共开设了哪些课程？ 每个学生选修了多少门课？ 每门课程有多少个学生选？ 每门课程大于95分的学生人数？ Tom选修了几门课？每 阅读全文

摘要： 1.pandas df 与 spark df的相互转换 df_s=spark.createDataFrame(df_p) df_p=df_s.toPandas() 2. Spark与Pandas中DataFrame对比 http://www.lining0806.com/spark%E4%B8%8E 阅读全文

摘要： 1.Spark SQL出现的 原因是什么?Spark SQL是Spark用来处理结构化数据的一个模块，它提供了一个叫作Data Frame的编程抽象结构数据模型(即带有Schema信息的RDD)，Spark SQL作为分布式SQL查询引擎，让用户可以通过SQL、DataFrame API和Datas 阅读全文

摘要： >>> s = txt.lower().split()>>> dd = {}>>> for word in s:... if word not in dd:... dd[word] = 1... else:... dd[word] = dic[word] + 1...>>> ss = sorted( 阅读全文

摘要： 学生课程分数案例 总共有多少学生？map(), distinct(), count() 开设了多少门课程？ 每个学生选修了多少门课？map(), countByKey() 每门课程有多少个学生选？map(), countByValue() Tom选修了几门课？每门课多少分？filter(), map 阅读全文

摘要： 一、词频统计： 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words flatmap() 3.全部转换为小写 lower() 4.去掉长度小于3的单词 filter() 5.去掉停用词 6.转换成键值对 map() 7.统计词频 reduceByKey() 二、学生课程分 阅读全文