摘要: 1.今天的学习过程和小结 今天将大数据项目处理的数据结果导入mysql中,进行前端的数据可视化,将项目进行优化,然后制作答辩ppt和编写实训心得 2.遇到的问题 在编写前段页面时遇到许多问题 E-chars使用不熟练 3.思维导图 阅读全文
posted @ 2018-07-24 17:11 小小d程序猿 阅读(88) 评论(0) 推荐(0) 编辑
摘要: 1.今天的学习过程和小结 继续项目开发,使用hive进行统计查询,将结果导入mysql数据库中,然后前端使用ssm框架,将结果以图形化展示出来 2.遇到的问题 ssm框架使用不熟练 将结果导入mysql中多次出现错误 3.思维导图 阅读全文
posted @ 2018-07-23 18:46 小小d程序猿 阅读(240) 评论(0) 推荐(0) 编辑
摘要: 1.今天的学习过程和小结: 开发项目,通过分析日志用户画像描绘 数据清洗,第一阶段:把需要的信息从原始日志中提取出来,第二阶段:根据提取出来的信息做精细化操作 数据处理,按照我们的需要进行相应业务的统计和分析 spark、Hive、MapReduce或其他的一些分布式计算框架 处理结果入库,结果可以 阅读全文
posted @ 2018-07-23 08:26 小小d程序猿 阅读(97) 评论(0) 推荐(0) 编辑
摘要: 1.今天的学习过程和小结 课堂测试 sql文件导入数据库 sqoop命令介绍 sqoop导入导出数据 hive_jdbc_获取链接 hive_jdbc_查询 springboot集成Hive 2.遇到的问题 idea黑粗线贯光标,insert,空格键无法使用 配置jdbc,hive工具类时hive服 阅读全文
posted @ 2018-07-20 18:39 小小d程序猿 阅读(104) 评论(0) 推荐(0) 编辑
摘要: 1.今天的学习过程和小结 考试,讲解答案 hive 介绍 hive环境搭建 使用hive创建表emp,dept,salgrade 向表中导入数据 hql的简单查询 hal函数的简单实用 sqoop简单介绍 sqoop环境搭建 scutt:sql文件导入数据库 2.遇到的问题 1.Call From 阅读全文
posted @ 2018-07-19 18:19 小小d程序猿 阅读(70) 评论(0) 推荐(0) 编辑
摘要: 1.今天的学习过程和小结: 倒排索引数据流动分析总结 haddop项目实战_用户行为日志分析 使用github上类库解析日志中浏览器信息 预习hive的安装和配置 2.遇到的问题 倒排索引分析时对数据类型的把握不够准确 java类实现浏览器统计不够熟练 3.思维导图 阅读全文
posted @ 2018-07-18 18:18 小小d程序猿 阅读(99) 评论(0) 推荐(0) 编辑
摘要: 1.今天的学习过程和小结: 1,idea+maven创建JAVA工程,利用JAVA API操作HDF完成以下功 能: (1),创建hdfs目录 /idea (2)创建文件 / idea/hello.txt (3)查看HDFS上的文件内容/idea/hello.txt (4)文件重命名 /idea/h 阅读全文
posted @ 2018-07-17 18:12 小小d程序猿 阅读(65) 评论(0) 推荐(0) 编辑
摘要: 1.今天的学习过程和小结 1.列举linux常用命令 2.hash函数特点是什么 3.hdfs如何实现文件的存储 4.hdfs副本存放机制? 5.hdfs主要进程、yarn的主要进程分别是 6.简述mapreduce计算流程 7.搭建伪分布式步骤 8.简述yarn工作原理 9.常见的端口有哪些 ? 阅读全文
posted @ 2018-07-16 17:24 小小d程序猿 阅读(69) 评论(0) 推荐(0) 编辑
摘要: 1.今天的学习过程和小结: spring ioc 工厂模式放入xml配置文件中set 方法er表达式代理模式,工厂模式依赖反转接口和实现类的对比关系对象映射sqlSession xmlmapper连接池mybatis 配置,只有接口,没有实现类(不支持方法重载)监听器(服务器启动时加载配置文件) 2 阅读全文
posted @ 2018-07-16 08:24 小小d程序猿 阅读(79) 评论(0) 推荐(0) 编辑
摘要: 1.今天的学习过程和小结: 计算气温平均值案例 输入分片 inputsplit事物,分布式事务数据一致性springmvc转发重定向servlet缺点(一个类处理一个地址请求)生命周期 springmvc工作原理,配置 2.遇到的问题 配置Hadoop时出现了问题 srpringmvc框架的原理有些 阅读全文
posted @ 2018-07-13 19:10 小小d程序猿 阅读(60) 评论(0) 推荐(0) 编辑