摘要:
第三编主要讲的是Refined Architecture(细化架构)。它是架构设计的一个层次,即“概念级”解决方案。 第一个章节引用了《方案书》与办公室里的争论这两个小故事,简单说明了概念架构和细化架构的差异以及贴近实践的多视图方法应将一线架构师的各项具体工作涵盖其中。 细化架构与概念架构之间的典型 阅读全文
摘要:
这一周学习了利用百度API查找经纬度、地址等,还有jieba分词提取关键词 阅读全文
摘要:
安装 下载地址 https://github.com/alibaba/DataX/blob/master/userGuid.md 直接解压就行 dataX需要python2.x 我之前已经安装了anaconda3,自带的是python3.7的版本,这边就需要切换 conda create --nam 阅读全文
摘要:
性能战术的目标:对一定时间限制内到达系统的事件生成一个响应,这些事件可以是消息到达、定时器到时,系统状态的变化。 通俗来讲,就是减少系统的响应时间,减少空间的消耗 性能战术的分类以及基本的方法 1.资源需求 减少处理一个事件流所需要的资源 提高计算效率,如改进关键算法 减少计算开销,比如保存上次计算 阅读全文
摘要:
主要根据德拓的视频学习并掌握了DataX、Kettle、Logstash的使用 阅读全文
摘要:
这一周主要是完善假期的三个项目 主要学习了Python和mysql的连接还有制作词云 阅读全文
摘要:
1.可用性 刺激源:用户 刺激:用户访问数量过多,导致系统崩溃或反应缓慢 制品:服务器 环境:正常模式 响应:系统检测到访问量过大,记录情况并通知用户 响应度量:短时间内恢复系统正常运行 2.可修改性 刺激源:开发人员 刺激:希望修改功能 制品:淘宝网站 环境:设计时 响应:查找需要修改的位置,进行 阅读全文
摘要:
报错:Exception in thread "main" java.lang.VerifyError: class scala.collection.mutable.WrappedArray overrides final method toBuffer.()Lscala/collection/m 阅读全文
摘要:
今天主要写了实验4的第一个题目 spark-shell 交互式编程 请到本教程官网的“下载专区”的“数据集”中下载 chapter5-data1.txt,该数据集包含 了某大学计算机系的成绩,数据格式如下所示: Tom DataBase 80 Tom Algorithm 50 Tom DataStr 阅读全文
摘要:
今天主要学的是RDD 参考教程: https://www.jianshu.com/p/6411fff954cf https://www.cnblogs.com/qingyunzong/p/8899715.html#_label0_0 RDD叫做弹性分布式数据集,是Spark中最基本的数据抽象。 RD 阅读全文