上一页 1 2 3 4 5 6 ··· 35 下一页

2018年7月11日

Hadoop-YARN-SLS模拟器运行

摘要: hadoop中提供sls来进行单机模拟。为缺少大集群的用户提供了便利。如何运行?1.配置hadoop安装前的环境:hadoop环境准备-centos7 安装java jdk82.安装Hadoop:hadoop安装和本地模式实现安装好后,对环境变量进行配置:sudo v... 阅读全文

posted @ 2018-07-11 17:56 sichenzhao 阅读(308) 评论(0) 推荐(0) 编辑

hadoop-yarn SLS运行中的问题

摘要: 在运行SLS时可能会碰到如下问题:命令:sh $HADOOP_HOME/share/hadoop/tools/sls/bin/slsrun.sh --input-sls=/home/c/sls/output2/sls-jobs.json --nodes=/home/c... 阅读全文

posted @ 2018-07-11 17:27 sichenzhao 阅读(341) 评论(0) 推荐(0) 编辑

2018年7月9日

linux远程传输文件至windows

摘要: 首先打开putty自带的psftp,open 【填远程服务器的ip或者域名】用cd命令选择Linux端的目录 例如:cd /usr/用lcd命令选择windows端的目录,例如:lcd c:/比如在 d:盘有一个 5.rmvb上传文件到Linux: psftp > p... 阅读全文

posted @ 2018-07-09 21:30 sichenzhao 阅读(536) 评论(0) 推荐(0) 编辑

vim打开多个文件

摘要: 一、如果在终端还没有打开vim1、vim横向分屏打开多个文件vim -o 文件1 文件22、vim纵向分屏打开多个文件vim -O 文件1 文件2 二、如果在终端已经打开vim1、横向分屏打开另一个文件:vs 文件2、纵向分屏打开另一个文件:sp 文件然后实现光标切换... 阅读全文

posted @ 2018-07-09 09:37 sichenzhao 阅读(246) 评论(0) 推荐(0) 编辑

2018年6月30日

BVT(Borrowed Virtual Time )调度算法

摘要: BVT是一种CPU时间调度算法基本原理BVT是一种公平性优先的调度算法,该算法将时间分为实际时间和虚拟时间,其中实际时间为硬件计时器记录的时间,虚拟时间为对实际时间经过某种规则计算后得到的时间值。该算法用虚拟时间来监控进程的执行时间,每次总是调度具有最早的有效虚拟时间... 阅读全文

posted @ 2018-06-30 18:00 sichenzhao 阅读(1324) 评论(0) 推荐(0) 编辑

2018年6月28日

阿里搜索秒即弹性调度

摘要: 目前阿里巴巴搜索的分布式服务一般都是基于Hippo+Carbon来调度的,包括部署、扩缩容、名字服务注册。如下图:其中:Hippo:一层调度(资源调度),解决机器资源分配问题,将一个物理机分成很多资源,根据应用单机不同的资源需求动态创建不同规格的容器(Docker)。... 阅读全文

posted @ 2018-06-28 22:43 sichenzhao 阅读(272) 评论(0) 推荐(0) 编辑

阿里搜索hippo架构

摘要: hippo是目前阿里搜索主要的调度系统,hippo是一套分布式调度系统。与YARN和K8s的目的相同,都是提供为集群资源调度服务。hippo架构hippo是典型的master-slave架构,这与YARN类似,多个master通过zookeeper选主做failove... 阅读全文

posted @ 2018-06-28 21:27 sichenzhao 阅读(647) 评论(0) 推荐(0) 编辑

淘宝TPP系统解析

摘要: TPP(Taobao Personalization Platform, 也称阿里推荐平台 ) 平台承接了阿里集团300+重要个性化推荐场景,包括手淘首页猜你喜欢、首图个性化、购物链路等。除了提供应用层面的支持和封装,还肩负着机器分配和维护各场景运行稳定的重任。理想情... 阅读全文

posted @ 2018-06-28 20:09 sichenzhao 阅读(707) 评论(0) 推荐(0) 编辑

2018年6月23日

Yarn Scheduler Load Simulator (SLS)-调度算法选择源码解析

摘要: 如何为SLS选择调度算法。这里谈下本人的理解sls通过slsrun.sh脚本来运行,其中要加入配置文件sls-runner.xml。在该配置文件中,有关于调度算法的配置: org.apache.hadoop.yarn.server.resourc... 阅读全文

posted @ 2018-06-23 15:03 sichenzhao 阅读(204) 评论(0) 推荐(0) 编辑

2018年6月20日

Kubernetes scheduler V2草案

摘要: 大家都知道目前Kubernetes的调度器在可扩展性和性能上面还存在很多不足,在业界,不管是国内外大企业还是创业的新型云服务公司在面临调度的一系列本地化需求时都会自己定制或者使用webhook机制来兼容,但仍然要面临定制后不好和官方同步改动和webhook性能太差不够... 阅读全文

posted @ 2018-06-20 21:53 sichenzhao 阅读(142) 评论(0) 推荐(0) 编辑

上一页 1 2 3 4 5 6 ··· 35 下一页

导航