摘要: 原文链接:http://blog.csdn.net/gavin_chun/article/details/78652638 原文件目录结构 1 更改后的目录结构 1 阅读全文
posted @ 2017-12-02 23:58 凯心宝牙 阅读(364) 评论(0) 推荐(0) 编辑
摘要: 摘要:PayPal高级工程总监Anil Madan写了篇大数据的文章,一共有100篇大数据的论文,涵盖大数据技术栈,全部读懂你将会是大数据的顶级高手。 开源(Open Source)用之于大数据技术,其作用有二:一方面,在大数据技术变革之路上,开源在众人之力和众人之智推动下,摧枯拉朽,吐故纳新,扮演 阅读全文
posted @ 2017-12-02 23:15 凯心宝牙 阅读(491) 评论(0) 推荐(0) 编辑
摘要: 本文http://www.cnblogs.com/huxi/archive/2010/07/04/1771073.html 正则表达式经常被用到,而自己总是记不全,转载一份完整的以备不时之需。 1. 正则表达式基础 1.1. 简单介绍 正则表达式并不是Python的一部分。正则表达式是用于处理字符串 阅读全文
posted @ 2017-12-02 23:12 凯心宝牙 阅读(217) 评论(0) 推荐(0) 编辑
摘要: 共享变量 通常情况下,当向Spark操作(如map,reduce)传递一个函数时,它会在一个远程集群节点上执行,它会使用函数中所有变量的副本。这些变量被复制到所有的机器上,远程机器上并没有被更新的变量会向驱动程序回传。在任务之间使用通用的,支持读写的共享变量是低效的。尽管如此,Spark提供了两种有 阅读全文
posted @ 2017-12-02 23:03 凯心宝牙 阅读(210) 评论(0) 推荐(0) 编辑
摘要: Accumulator简介 Accumulator是spark提供的累加器,顾名思义,该变量只能够增加。 只有driver能获取到Accumulator的值(使用value方法),Task只能对其做增加操作(使用 +=)。你也可以在为Accumulator命名(不支持Python),这样就会在spa 阅读全文
posted @ 2017-12-02 22:46 凯心宝牙 阅读(3231) 评论(0) 推荐(3) 编辑