摘要:
Sqoop https://www.cnblogs.com/qingyunzong/p/8807252.html 阅读全文
摘要:
序列化就是把内存中的对象的状态信息转换成字节序列,以便于存储(持久化)和网络传输 反序列化就是就将收到的字节序列或者是硬盘的持久化数据,转换成内存中的对象。 1.JDK的序列化 只要实现了serializable接口就能实现序列化与反序列化,一定要加上序列化版本ID serialVersionUID 阅读全文
摘要:
1. 什么是 RPC RPC远程过程调用协议: RPC(Remote Procedure Call)—远程过程调用,它是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。 RPC协议假定某些传输协议的存在,如TCP或UDP,为通信程序之间携带信息数据。在OSI网络通信模型中,R 阅读全文
摘要:
总结: 之前在教材上看hdfs的Java客户端编写,只有关键代码,呵呵……。闲话不说,上正文。 1. Hadoop 的Java客户端编写建议在linux系统上开发 2. 可以使用eclipse,idea 等IDE工具,目前比较流行的是idea 3. 新建项目之后需要添加很多jar包,win,linu 阅读全文
摘要:
HDFS的实现思路:1.HDFS通过分布式集群来存储文件,为客户端提供便捷的访问方式2.文件存储到HDFS集群去的时候,被切分为block3.HDFS存放在若干datanode节点 上4.HDFS文件系统与真实的block之间有映射关系,由于NameNode管理5.每个block在集群中会存储多个副 阅读全文
摘要:
给自己一个发牢骚总结的时间,读者此段内容可以跳过。之前我搭建过几次大数据环境,每次都会浪费很长时间,这次也不例外。首先虚拟机坏了,换了几个虚拟机版本后好了。然后安装Centos,安装完发现Centos不能用。然后重装系统,结果装完系统软件,应用软件不能安装(win10S)。又重装系统后,重新安装虚拟 阅读全文
摘要:
1. hadoop是什么? Hadoop是一种分析和处理大数据的软件平台,是Appach的一个用Java语言所实现的开源软件的框架,在大量计算机组成的集群当中实现了对于海量的数据进行的分布式计算。 2. Hadoop的框架最核心的设计 HDFS和MapReduce。HDFS为海量的数据提供了存储,则 阅读全文
摘要:
常常听大家说Hadoop,之前自己也看资料了解过一些Hadoop,现在工作任务就是整理学习Hadoop,开心~ 立个 flag: 博客园的文章好久不写了,2019年要坚持 阅读全文
摘要:
刚刚看了一下以往的博客,最早是在2011年3月21日发布的,写的是《SQL Server 2008 支持将数据导出为脚本/导出单张表》。回忆工作这么多年,其实积累了很多知识, 后期因为各种原因很多内容没有保存下来。今天突然想好好整理一下Java知识,趁这个时间强迫自己梳理一下基础知识,夯实基础,从头 阅读全文
摘要:
struts2 的Action中若希望访问Session对象,可采用两种方式: 1、从ActionContext中获取; 2、实现SessionAware接口。 1、从ActionContext中获取 Map<String , Object > session = ActionContext.get 阅读全文