摘要:
编译插件 - java<!-- the Maven compiler plugin will compile Java source files --> <plugin> <groupId>org.apache.maven.plugins</groupId> <artifactId>maven-co 阅读全文
摘要:
Spark运行特点: 每个Application获取专属的executor进程,该进程在Application期间一直驻留,并以多线程方式运行Task。这种Application隔离机制是有优势的,无论是从调度角度看(每个Driver调度他自己的任务),还是从运行角度看(来自不同Applicatio 阅读全文
摘要:
形成一致的抽象,抽象能使你忽略无关的细节。 合作设计,三个臭皮匠顶的上一个诸葛亮,含义是设计的过程中 可以将自己的设计方案与同事讨论一番,询问同事的一些想法,讨论一些设计方案。 类的接口应该展现一致的抽象层次 编写子程序的理由: 降低复杂度,易懂的抽象,避免代码重复,隐藏指针操作,提高可移植性,简化 阅读全文
摘要:
迭代技术不能完全消除前期准备不足的负面影响。 需求变更的主要来源是客户参与项目的时间越长,对项目的理解深入,更加了解自己的需求。 架构的组成,类的设计、数据设计、业务规则、用户界面设计、资源管理、安全性、性能、可伸缩性、互用性、输入输出、错误处理、容错性等,红色为嵌入式系统比较中要的部分。 深入一种 阅读全文
摘要:
员工表(Employees) 员工ID (Employees ID) 姓名 (name) 性别 (sex) 年龄 (age) 部门ID (department ID) 职位名称 (position) 客户表(Customers) 客户ID (Customers ID) 客户名称 (Customers 阅读全文
摘要:
1把不太理解的东西和一些较为理解的且十分类似的东西做比较,对这个不太了解的东西产生更深刻的理解叫做建模。 2模型不可能一下子就覆盖的很全面,会经过一系列的转变,往更好更全面的模型发展。 3简单的模型有简单的用处,模型的选择与设计需根据实际情况来。 4增量的、迭代的、自适应的、演进的软件设计概念。 5 阅读全文
摘要:
1.首先要启动hdfs集群和hive数据库 2.创建并导入文件 进入到hadop目录下 在命令行窗口输入下面的命令: hadoop fs -mkdir /input1 在电脑桌面中新建两个文件file1.txt和file2.txt 将这两个文件拖到虚拟机中任意的文件目录下(记住这个文件目录) 然后将 阅读全文
摘要:
学习了hadoop的词频统计相关内容,并进行了相应的操作,具体的实现将在明天完成 阅读全文
摘要:
.2MapReduce模型简介•MapReduce将复杂的、运行于大规模集群上的并行计算过程高度地抽象到了两个函数:Map和Reduce •编程容易,不需要掌握分布式并行编程细节,也可以很容易把自己的程序运行在分布式系统上,完成海量数据的计算 •MapReduce采用“分而治之”策略,一个存储在分布 阅读全文