上一页 1 ··· 3 4 5 6 7 8 9 10 11 ··· 15 下一页

2012年8月8日

Hadoop:The Definitive Guid 总结 Chapter 1~2 初识Hadoop、MapReduce

摘要: 1.数据存储与分析问题:当磁盘的存储量随着时间的推移越来越大的时候,对磁盘上的数据的读取速度却没有多大的增长从多个磁盘上进行并行读写操作是可行的,但是存在以下几个方面的问题:1).第一个问题是硬件错误。使用的硬件越多出错的几率就越大。一种常用的解决方式是数据冗余,保留多分拷贝,即使一份数据处理出错,还有另外的数据。HDFS使用的也是类似的方式,但稍有不同。2).第二个问题是数据处理的相关性问题。例如很多分析工作在一快磁盘上处理出来的结果需要与其他磁盘上处理处理出来的结果合并才能完成任务。各种分布式系统也都给出了合并的策略,但是做好这方面确实是一个挑战。MapReduce提供了一种编程模型,他将 阅读全文

posted @ 2012-08-08 18:04 as_ 阅读(1351) 评论(0) 推荐(0) 编辑

2012年8月7日

UNP总结 Chapter 26~29 线程、IP选项、原始套接字、数据链路访问

摘要: 此为UNP最后一段总结 Chapter30主要为代码实践 请参考UNP一、线程这里UNP的线程与APUE中讲得线程基本一致,但是APUE讲得更加细致,所以这里只列出主要内容(线程数据会稍微详细) 详细见APUE线程相关章节 或者本博文中的APUE专题1.基本线程函数:创建与终止2.线程特定数据使用线程特定数据是使现成函数线程安全的常用技巧这里重点提一下的是1).每个系统支持有限数量的线程特定数据项。系统(很可能是线程库)为每个进程维护一个数据结构,我们称之为Key结构,如下图2).Key结构中的标志指示这个数组元素是否正在使用,所有的标志初始化为"不在使用"。当一个线程调用 阅读全文

posted @ 2012-08-07 21:53 as_ 阅读(1047) 评论(0) 推荐(0) 编辑

UNP总结 Chapter 22~25 高级UDP套接字编程、高级SCTP 套接字编程、带外数据、信号驱动I/O

摘要: 一、高级UDP套接字编程1.接收标志、目的IP地址和接口索引作为recvmsg的一个例子,我们将要写一个名为recvfrom_flags的函数,它与recvfrom类似,但他还返回:返回的msg_flags值收到的数据报的目的地址(通过设置IP_RECVDSTADDR套接口选项)接收数据报接口的索引(通过设置IP_RECIF套机口选项)相关详细代码 见UNP P4632.何时用UDP代替TCP使用广播或者多播时候,因为UDP支持广播或多播类似实时音频应用的程序应使用UDP对于简单的请求-应答应用程序应使用UDP对于海量数据传输(例如文件传输)不应该使用UDP3.给UDP应用增加可靠性如果我们想 阅读全文

posted @ 2012-08-07 17:40 as_ 阅读(1314) 评论(0) 推荐(0) 编辑

UNP总结 Chapter 18~21 路由套接字、密钥管理套接字、广播、多播

摘要: 一、路由套接字1.概述在路由器接口中支持三种类型的操作1). 进程能通过写路由套接口向内核发消息。2). 进程能在路由套接口上从内核读消息,这是核心通知进程已收到一个ICMP重定向消息并进行了处理的方式。3). 进程可以用sysctl函数得到路由表或列出所有已配置的接口。2.数据链路套接口地址结构在路由套接口上返回的一些消息中包含数据链路套接口地址结构,他在<net/if_dl.h>定义struct sockaddr_dl { uint8_t sdl_len; sa_family_t sdl_family; /* AF_LINK */ uint16_t sdl_i... 阅读全文

posted @ 2012-08-07 15:52 as_ 阅读(2644) 评论(0) 推荐(0) 编辑

UNP总结 Chapter 15~17 Unix域协议、非阻塞式I/O、ioctl操作

摘要: 一、Unix域协议Unix域协议并不是一个实际的协议族,它只是在同一台主机上进行客户-服务器通信时,使用与在不同主机上的客户和服务器间通信时相同的API(套接口或XTI)的一种方法。当客户和服务器在同一台主机上时,Unix域协议是IPC通信方式的一种替代品。Unix域提供了两种类型的套接口:字节流套接口(与TCP类似)和数据报套接口(与UDP类似)。1.Unix域套接口地址结构struct sockaddr_un { sa_family_t sun_family; /* AF_LOCAL */ char sun_path[104]; /* null-terminat... 阅读全文

posted @ 2012-08-07 12:59 as_ 阅读(1271) 评论(0) 推荐(0) 编辑

2012年8月6日

UNP总结 Chapter 12~14 IPv4与IPv6的互操作性、守护进程和inet超级服务器、高级I/O函数

摘要: 一、IPv4与IPv6的互操作性1.IPv4客户与IPv6服务器拥有双重协议栈的主机的一个基本特性就是:其上运行的IPv6服务器既能应付IPv4客户,又能应付IPv6客户。这是通过使用IPv4映射的IPv6地址实现的。要求,ipv6服务器必须具有双重协议栈,即服务器必须同时拥有ipv4地址和ipv6地址,称其为ipv6服务器是因为开放的网络套接口为ipv6类型。当ipv4客户欲连接ipv6服务器时,通过gethostbyname获得服务器主机的A记录(即ipv4地址),并通过网络发送ipv4数据包。ipv6服务器接受这个ipv4数据包,并通过内核将客户ipv4地址映射为ipv6地址返回。2.I 阅读全文

posted @ 2012-08-06 22:20 as_ 阅读(892) 评论(0) 推荐(0) 编辑

UNP总结 Chapter 11 名字与地址转换

摘要: 本章讲述在名字和数值地址间进行转换的函数:gethostbyname和gethostbyaddr在主机名字与IP地址间进行转换,getservbyname和getservbyport在服务器名字和端口号间进行转换。1.域名系统域名系统(Domain Name System,DNS)主要用于主机名与IP地址间的映射。主机名可以是简单名字,如solaris或bsdi,也可以是全限定域名FQDN(Fully Qualified Domain Name),如solaris.kohala.com1).资源记录DNS中的条目称为资源记录RR(resource record),一般感兴趣的有如下几个:A A 阅读全文

posted @ 2012-08-06 21:05 as_ 阅读(1963) 评论(0) 推荐(0) 编辑

UNP总结 Chapter 9~10 基本SCTP套接字编程及C/S程序例子

摘要: 这里简要列出内容 不做详细总结1.接口模型1).一到一形式2).一到多形式2.涉及函数sctp_bindx函数sctp_connectx函数sctp_getpaddrs函数sctp_freepaddrs函数sctp_getladdrs函数sctp_freeladdrs函数sctp_sendmsg函数sctp_recvmsg函数sctp_opt_info函数sctp_peeloff函数shutdown函数3.头端阻塞4.控制总结程序代码示例详见UNP 阅读全文

posted @ 2012-08-06 17:14 as_ 阅读(788) 评论(0) 推荐(0) 编辑

UNP总结 Chapter 8 基本UDP套接字编程

摘要: 1.概述使用UDP编写的一些常用应用程序有:DNS(域名系统)、NFS(网络文件系统)和SNMP(简单网络管理协议)下图给出典型的UDP客户/服务器程序的函数调用:2.recvfrom和sendto函数两个函数类似于标准的read和write函数,不过需要三个额外的参数#include <sys/socket.h> ssize_t recvfrom(int sockfd, void *buff, size_t nbytes, int flags, struct sockaddr *from, socklen_t *addrlen); ssize_t sendto(int sockf 阅读全文

posted @ 2012-08-06 17:03 as_ 阅读(1020) 评论(0) 推荐(0) 编辑

UNP总结 Chapter 7 套接字选项

摘要: 1.getsockopt和setsockopt函数这两个函数仅用于套接字:#include <sys/socket.h> int getsockopt(int sockfd, int level, int optname, void *optval, socklen_t *optlen); int setsockopt(int sockfd, int level, int optname, const void *optval socklen_t optlen);//均返回:若成功为0,出错为-1其中sockfd必须指向一个打开套接字描述符,level(级别)指定系统中解释选项的代 阅读全文

posted @ 2012-08-06 15:22 as_ 阅读(1027) 评论(0) 推荐(0) 编辑

上一页 1 ··· 3 4 5 6 7 8 9 10 11 ··· 15 下一页

导航