摘要：
昨天下午线上辅集群加机器扩容，扩容的机器在运行一段时间后线上有block lost的告警，从Nameserver(NS)的日志上发现，扩容的新机器上有多次加入集群和退出集群的记录，最初我怀疑是扩容后，集群做容量负载均衡，大量数据往新加入的节点迁移，导致新机器负载高，从而出现心跳信息没有及时到达NS的情况，此时NS认为Dataserver（DS)宕机，如果有一个block的多个副本都被迁入到新扩容的... 阅读全文
posted @ 2013-04-19 14:14
ydzhang
阅读(266)
评论(0)
推荐(0)
摘要：
12月03日03:50左右，有多台Dataserver(DS)内存占用飙升，如10.246.70.71 dataserver 3，常驻内存突然飙升到21G，并且一直没有释放。查看dataserver的日志，发现大量的read v2失败 ，返回值主要是-8025（block不存在）， -8016（文件被删除或隐藏）。但这些失败信息从0点开始一直很多，而且这两种失败不会导致DS分配很多内存，所以应该跟内存问题没关系。在3:50左右5分钟内，发现readv2 success的日志很多，主要集中在3:48,3:49,3:50这3分钟内，3分钟的readv2请求超过4w，平均每秒200+，每个文件请求都 阅读全文
posted @ 2013-04-19 14:14
ydzhang
阅读(339)
评论(0)
推荐(0)
摘要：
linux socket使用16bit无符号整型表示端口号，最大到65535。关于端口号，有一个经典的误解就是，因为端口号有限，所以一个客户端最多建立65536个socket连接，但实际上并不是这么回事，端口是可以复用的。 一个socket连接是一个[srcip, srcport, destip, destport]组成的四元组，如果再算上协议（tcp、udp、rawsocket等）就是五... 阅读全文
posted @ 2013-04-19 14:14
ydzhang
阅读(2928)
评论(0)
推荐(0)
摘要：
google开源的gflags是一套命令行参数解析工具，比getopt功能更强大，使用起来更加方便，gflags还支持从环境变量、配置文件读取参数（可用gflags代替配置文件）。本文简单介绍gflags的使用，内容主要译自 http://gflags.googlecode.com/svn/trunk/doc/gflags.html 。 定义参数 使用flags需要包含头文件 #i... 阅读全文
posted @ 2013-04-19 14:14
ydzhang
阅读(690)
评论(0)
推荐(0)
摘要：
2012年，结束了长达19年的校园生活长跑，走上了工作岗位，开始人生一个新的起点。我的工作其实跟在实验室差不多，依然是分布式存储领域，公司简单的同事关系就跟在学校同学一般纯真，每天上班依旧是一辆破自行车，甚至连距离都跟宿舍去实验室差不多，还有在学校的同学雷雷、小鳄、宝仔在同一个组工作。 新人学习 入职后加入TFS（Taobao File System）项目组... 阅读全文
posted @ 2013-04-19 14:14
ydzhang
阅读(186)
评论(0)
推荐(0)
摘要：
SNIA的云存储标准（Cloud Data Mamangement Interface，CDMI）出来有一段时间了，目前云存储战场竞争激烈，标准的到来给云存储服务提供了指导作用，期待未来有美好的一天，所有的云存储提供商都遵循这个标准，让标准真正的发挥作用，让互联网用户受益。 理想很丰满，现实很骨感，制定标准跟标准落地还有很长的一段距离，标准的合理性首先需要得到检验并不断的改善，而... 阅读全文
posted @ 2013-04-19 14:14
ydzhang
阅读(529)
评论(0)
推荐(0)
摘要：
TFS没有采用目前流行的3副本策略，而是使用集群内配置2个副本，并把数据同步到一个辅集群，辅集群同样配置2个副本；这种方式对于实现异地机房容灾很方便，辅集群的数据同步是由主集群的数据服务器在后台发起的；目前主集群可读写，辅集群只读，双集群同时读写功能已开发完成，但没有在线上使用。 由于数据同步到辅集群是异步操作，当某次读文件的操作落到辅集群上时，可能该文件的同步尚未完成，此时在辅集群上读不到数据... 阅读全文
posted @ 2013-04-19 14:13
ydzhang
阅读(407)
评论(0)
推荐(0)
摘要：
集群数据对比功能的添加对TFS DS做了修改，在把DS上到日常测试环境前对其进行了一次回归测试，测试用例都通过，但checkserver检查到有大量block未同步到辅集群，查看dataserver的日志发现同步队列已经阻塞住了，一直重复retry。 主备集群的数据同步是由主集群的DS在后台进行，其将成功的写、删等操作记录在本地日志，并启动后台线程将日志重放到备集群，DS没重放一条日志，如果失败... 阅读全文
posted @ 2013-04-19 14:13
ydzhang
阅读(542)
评论(0)
推荐(0)
摘要：
在早期，应用要使用TFS，需要知道TFS名字服务器的地址才能访问TFS，然后调用读写接口存取文件，当应用比较少时，这种方式不会引发什么问题，但目前在淘宝内部，有200多个应用使用TFS做为后端的存储系统，必须要对应用的存储资源进行统一的管理与运维。 TFS做为一个应用存储平台，缺乏统一管理至少存在如下问题： 多集群管理：多集群访问控制、切换、容灾等。 访问控制：应用只要... 阅读全文
posted @ 2013-04-19 14:13
ydzhang
阅读(382)
评论(0)
推荐(0)
摘要：
TFS目前使用扩展块来解决文件写、更新问题。扩展块的数量由磁盘可用空间、主块大小、扩展块大小、Dataserver(DS)配置项block_ratio决定。TFS主块和扩展块的数量在文件系统格式化的时候就已经确定，并且预先分配了所有块的存储空间。DS周期性的汇报存储空间使用率给Namserver，DS根据主块和扩展块使用率中的较大值做为DS储存空间的使用率。 扩展块使用率引发的问题 ... 阅读全文
posted @ 2013-04-19 14:13
ydzhang
阅读(338)
评论(0)
推荐(0)
浙公网安备 33010602011771号