摘要:
设置使用vi/vim编辑crontab1,编辑.profile文件,增加EDITOR=vi;export EDITOR2,直接在命令行输入 EDITOR=vi;export EDITOR 阅读全文
摘要:
failed task可理解为自杀,也就是task本身出了问题而自杀;killed task可理解为是他杀,也就是jobtracker认为这个任务的执行是多余的,所以把任务直接杀掉。起初用hadoop的时候经常在一个complete的job中看到几个failed 或者是 killed task,还经常好奇为什么有的时候task的失败不会影响到整个job的失败,而有的时候就会使整个job的失败,到底failed和killed task对整个job的影响是什么?failed taskfailed task出现的原因可分为以下几种情况:1 child task失败,比如map/reduce任务中抛出 阅读全文
摘要:
步骤如下:1.copy 另外一台的datanode的配置到该datanode上,配置好jdk,ssh. 验证ssh:在namenode 上ssh 即可:The authenticity of host '[hadoop-datanode-8096]:16322 ([172.16.80.96]:16322)' can't be established.RSA key fingerprint is b2:4f:67:69:d5:c6:4f:b5:0a:4d:28:61:b2:c4:11:70.Are you sure you want to continue connect 阅读全文
摘要:
项目需要做一个关于视频上传的功能。整体的流程就是用户通过页面上传视频,然后后台记录上传信息,转码,播放。其实就是和youku,tudou等ugc视频的功能类似的。可能存在的瓶颈及解决方法:1.上传的网络瓶颈。(横向扩展,通过添加nginx即可)2.后台处理的瓶颈,涉及到截图,调整文件位置等后续操作。返回给前端的消息及时性。(延时消息异步,先给前端返回,再进行后续的操作)3.高并发。系统架构: lvs nginx nginx nginx nginx web_server(tornado) web_server(to... 阅读全文
摘要:
LVS一共有10种调度算法。Job Scheduling Algorithms in Linux Virtual ServerThis page describes the job scheduling algorithms implemented in Linux Virtual Server.Round-Robin SchedulingWeighted Round-Robin SchedulingLeast-Connection SchedulingWeighted Least-Connection SchedulingLocality-Based Least-Connection Sch 阅读全文
摘要:
dmidecode --DMI table decoder具体的用法可以 man dmidecode 来使用挺实用的一个命令 可以用来查看内存 bios 系统信息等用法:dmidecode -t查看内存的:/home/python# dmidecode -t memory | grep Size Size: 2048 MB Size: 2048 MB Size: 2048 MB Size: 2048 MB Size: 2048 MB Size: 2048 MB可以看到使用了6条内存。 阅读全文
摘要:
一个很好玩的网站。而且可以锻炼英语。何乐而不为呢?www.pythonchallenge.com有时间的话会一一做解答的,当然前提是我也能做出来啊。11.第一关 这个比较简单啦。2的38次方。实在不行按计算机吧。2.第二关。会使用到的函数 isalpha ord chr。 需要注意的是去掉标点符号以及对空格也进行下处理。然后应该是一个圈圈的形状。z-->b 1 #!/usr/bin/env python 2 string = "g fmnc wms bgblr rpylqjyrc gr zw fylb. rfyrq ufyr amknsrcpq ypc dmp. bmgle g 阅读全文
摘要:
据说是百度的面试题啊有一个已经排序的数组(升序),数组中可能有正数、负数或0,求数组中元素的绝对值最小的数,要求,不能用顺序比较的方法(复杂度需要小于O(n)),可以使用任何语言实现例如,数组{-20,-13,-4, 6, 77,200} ,绝对值最小的是-4。算法实现的基本思路其实就是个二分查找,使用0作为查找的值。如果没有找到,则也是正数或者负数的零界点。(全是正数或者全是负数的情况除外)。如果是正数,则与左边的负数绝对值比较,如果为负数,则用绝对值与右边的负数比较。实现代码如下,用python完成的 1 def getMinAbsoluteValue(array,min,max,key) 阅读全文
摘要:
一个在线的正则表达式练习的网站http://regex101.com/有时间可以去练习练习 阅读全文
摘要:
做文件上传的项目,需要上传文件,使用Nginx的upload上传模块来进行处理。源码位置:http://www.grid.net.ru/nginx/upload.en.html下载后重新编译nginx ./configure –add-module=/usr/local/nginx_upload_module-*makemake installnginx配置如下: location /video/ { upload_pass @after_upload; upload_store /data0/video_temp; ... 阅读全文