duan2

导航

 

2017年9月6日

摘要: hadoop底层用流调用的api 本代码来自传智播客,版权归传智播客所有 阅读全文
posted @ 2017-09-06 21:10 duan2 阅读(1165) 评论(0) 推荐(0) 编辑
 
摘要: 设计思想 分而治之:将大文件、大批量文件,分布式存放在大量服务器上,以便于采取分而治之的方式对海量数据进行运算分析; 在大数据系统中作用:为各类分布式运算框架(如:mapreduce,spark,tez,……)提供数据存储服务 重点概念:文件切块,副本存放,元数据 HDSF的重要特性 首先,它是一个 阅读全文
posted @ 2017-09-06 21:03 duan2 阅读(869) 评论(0) 推荐(0) 编辑
 
摘要: 作者:李天炜 Log4j是Apache的一个开放源代码项目,通过使用Log4j,我们可以控制日志信息输送的目的地是控制台、文件、GUI组件、甚至是套接口服务器、NT的事件记录器、UNIX Syslog守护进程等;我们也可以控制每一条日志的输出格式;通过定义每一条日志信息的级别,我们能够更加细致地控制 阅读全文
posted @ 2017-09-06 17:39 duan2 阅读(305) 评论(0) 推荐(0) 编辑
 
摘要: 今天在centos上装mysql时,安装完后也没有让设置密码,当登陆时报错。 意思是密码过期。重新设置密码: 1.先停止mysql服务:service mysqld stop 2.输入 mysqld_safe --user=mysql --skip-grant-tables --skip-netwo 阅读全文
posted @ 2017-09-06 16:36 duan2 阅读(273) 评论(0) 推荐(0) 编辑
 
摘要: 在yarn-site.xml中加入如下配置 <property> <name>yarn.nodemanager.disk-health-checker.min-healthy-disks</name> <value>0.0</value> </property> <property><name>ya 阅读全文
posted @ 2017-09-06 16:34 duan2 阅读(549) 评论(0) 推荐(0) 编辑
 
摘要: 众所周知,在计算机中要对给定的数据集进行若干处理,首要任务是把数据集的一部分(当数据量非常大时,可能只能一部分一部分地读取数据到内存中来处理)或全部存储到内存中,然后再对内存中的数据进行各种处理。 例如,对于数据集S{1,2,3,4,5,6},要求S中元素的和,首先要把数据存储到内存中,然后再将内存 阅读全文
posted @ 2017-09-06 16:33 duan2 阅读(156) 评论(0) 推荐(0) 编辑
 
摘要: mysql存储过程详解1. 存储过程简介 我们常用的操作数据库语言SQL语句在执行的时候需要要先编译,然后执行,而存储过程(Stored Procedure)是一组为了完成特定功能的SQL语句集,经编译后存储在数据库中,用户通过指定存储过程的名字并给定参数(如果该存储过程带有参数)来调用执行它。一个 阅读全文
posted @ 2017-09-06 16:27 duan2 阅读(160) 评论(0) 推荐(0) 编辑
 
摘要: 在Windows下的路径分隔符和Linux下的路径分隔符是不一样的,当直接使用绝对路径时,跨平台会暴出“No such file or diretory”的异常。 比如说要在temp目录下建立一个test.txt文件,在Windows下应该这么写:File file1 = new File ("C: 阅读全文
posted @ 2017-09-06 16:26 duan2 阅读(388) 评论(0) 推荐(0) 编辑
 
摘要: 由于linux目前很热门,越来越多的人在学习linux,但是买一台服务放家里来学习,实在是很浪费。那么如何解决这个问题?虚拟机软件是很好的选择,常用的虚拟机软件有vmware workstations和virtual box等。在使用虚拟机软件的时候,很多初学者都会遇到很多问题,而vmware的网络 阅读全文
posted @ 2017-09-06 16:25 duan2 阅读(167) 评论(0) 推荐(0) 编辑
 
摘要: public enum MsgType { IPCHANGE_MSG(1, "ip地址改变警报"), LOCATION_CHANGE_MSG(2,"异地登录警报"), KEYWORD_MSG(3, "关键字警报"), STATUS_ABNORMAL_MSG(4, "状态异常警报"), APPTHRESHOLD_MSG(5, "ip地址改变警报"... 阅读全文
posted @ 2017-09-06 16:18 duan2 阅读(103) 评论(0) 推荐(0) 编辑
 
摘要: 本教程参考传智播客教学 1.1 什么是HADOOP 1. HADOOP是apache旗下的一套开源软件平台 2. HADOOP提供的功能:利用服务器集群,根据用户的自定义业务逻辑,对海量数据进行分布式处理 3. HADOOP的核心组件有 A. HDFS(分布式文件系统) B. YARN(运算资源调度 阅读全文
posted @ 2017-09-06 16:17 duan2 阅读(133) 评论(0) 推荐(0) 编辑
 
摘要: ssh 无密码登录要使用公钥与私钥。linux下可以用用ssh-keygen生成公钥/私钥对,下面我以CentOS为例。有机器A(192.168.1.155),B(192.168.1.181)。现想A通过ssh免密码登录到B。1.在A机下生成公钥/私钥对。 [chenlb@A ~]$ ssh-key 阅读全文
posted @ 2017-09-06 16:02 duan2 阅读(169) 评论(0) 推荐(0) 编辑
 
摘要: 一台 Web 服务器可搭建多个独立域名的 Web 网站,也可作为通信路径上的中转服务器提升传输效率。 HTTP 报文首部 在报文众多的字段当中,HTTP 首部字段包含的信息最为丰富。首部字段同时存在于请求和响应报文内,并涵盖 HTTP 报文相关的内容信息。因 HTTP 版本或扩展规范的变化,首部字段 阅读全文
posted @ 2017-09-06 16:00 duan2 阅读(202) 评论(0) 推荐(0) 编辑
 
摘要: HTTP 报文 用于 HTTP 协议交互的信息被称为 HTTP 报文。请求端(客户端)的 HTTP 报文叫做请求报文,响应端(服务器端)的叫做响应报文。HTTP 报文本身是由多行(用 CR+LF 作换行符)数据构成的字符串文本。 HTTP 报文大致可分为报文首部和报文主体两块。两者由最初出现的空行( 阅读全文
posted @ 2017-09-06 15:59 duan2 阅读(175) 评论(0) 推荐(0) 编辑
 
摘要: 持久连接节省通信量 HTTP 协议的初始版本中,每进行一次 HTTP 通信就要断开一次TCP 连接。 以当年的通信情况来说,因为都是些容量很小的文本传输,所以即使这样也没有多大问题。可随着 HTTP 的普及,文档中包含大量图片的情况多了起来。比如,使用浏览器浏览一个包含多张图片的 HTML 页面时, 阅读全文
posted @ 2017-09-06 15:55 duan2 阅读(140) 评论(0) 推荐(0) 编辑
 
摘要: URI 和 URL 与 URI(统一资源标识符)相比,我们更熟悉 URL(Uniform Resource Locator,统一资源定位符)。URL 正是使用 Web 浏览器等访问 Web 页面时需要输入的网页地址。比如,下图的 http://hackr.jp/ 就是 URL。 Uniform 规定 阅读全文
posted @ 2017-09-06 15:54 duan2 阅读(308) 评论(0) 推荐(0) 编辑
 
摘要: 计算机与网络设备要相互通信,双方就必须基于相同的方法。比如,如何探测到通信目标、由哪一边先发起通信、使用哪种语言进行通信、怎样结束通信等规则都需要事先确定。不同的硬件、操作系统之间的通信,所有的这一切都需要一种规则。而我们就把这种规则称为协议(protocol)。 Tcp/Ip的概念 TCP/IP 阅读全文
posted @ 2017-09-06 15:53 duan2 阅读(2320) 评论(0) 推荐(0) 编辑
 
摘要: 转自:http://www.cnblogs.com/java-my-life/archive/2012/04/13/2442795.html 适配器模式把一个类的接口变换成客户端所期待的另一种接口,从而使原本因接口不匹配而无法在一起工作的两个类能够在一起工作。 适配器模式的用途 用电器做例子,笔记本 阅读全文
posted @ 2017-09-06 15:52 duan2 阅读(130) 评论(0) 推荐(0) 编辑
 
摘要: 转自:http://www.cnblogs.com/java-my-life/archive/2012/05/28/2516865.html 在阎宏博士的《JAVA与模式》一书中开头是这样描述责任链(Chain of Responsibility)模式的: 责任链模式是一种对象的行为模式。在责任链模 阅读全文
posted @ 2017-09-06 15:48 duan2 阅读(194) 评论(0) 推荐(0) 编辑
 
摘要: 在阎宏博士的《JAVA与模式》一书中开头是这样描述简单工厂模式的:简单工厂模式是类的创建模式,又叫做静态工厂方法(Static Factory Method)模式。简单工厂模式是由一个工厂对象决定创建出哪一种产品类的实例。 就拿登录功能来说,假如应用系统需要支持多种登录方式如:口令认证、域认证(口令 阅读全文
posted @ 2017-09-06 15:44 duan2 阅读(154) 评论(0) 推荐(0) 编辑