RTB产品测试进度
元数RTB产品
元数的产品已经测过两个版本,分别是1.1版本和1.2版本,目前线上跑的是1.2版本。程序线上情况目前正常,没有问题。
元数功能账号为:yuanshu 需用root账号切换
元数KV账号为:ysdata 密码:ysdata123456
程序部署情况如下:
测试区,10.0.172.201
YsData.jar包存放位置:
/yuanshu/ys
ys_job.sh脚本存放位置:
/yuanshu/ys
配置文件存放位置在hdfs上:
/test/datatest/yuanshu
程序运行执行命令:
nohup ./ys_job.sh /test/datatest/yuanshu/itemtag test 20150826 &
此命令是运行一个省份一整天的命令,用于资源占用情况的测试
nohup ./ys_gen_kv.sh /daas/bstl/dpifix/fujian/20150827/* /test/datatest/yuanshu/itemtag 20150827 FJ &
此命令是运行一个省份某一小时的命令,用于快速获得数据,以便测试接口
元数的URL有:
集奥RTB产品
集奥RTB产品,我只测过一次,就是目前线上跑的程序,一切正常。
集奥功能账号为:geo
KV账号为:ctyun_bdcsc_geotmt 密码:123456
集奥此次具体测试情况请参考最后一条交接内容。
nohup sh run.fix.sh &
集奥URL示例:
蓬景RTB产品
蓬景的产品当初测试已经发过性能需要优化的声明了,他们程序虽然已经经过产品同意上线了,但是性能不过关,需要后期的优化。所以,麻烦后期接手工作的同事重点关注一下资源占用情况,谢谢。
蓬景功能账号:vendorwins
KV账号:ctyun_bdcsc_pxene 密码:pxene123456
环境部署:
将pxene-telecom-1.0.0.25.jar包和pxene-start-yh-test.sh和setTagsByImsi-test.sh两个脚本上传至
/home/vendorwins/zhengyi
然后运行pxene-start-yh-test.sh脚本和setTagsByImsi-test.sh脚本,两个脚本部分先后顺序
蓬景的URL是每set两个可以get一个 示例:
示例一
示例二
神州泰岳RTB产品
泰岳产品于10月30号上线,但是据海新回复,仍存在数据无法入redis库的问题。需要协调厂家人协助查找原因。
泰岳功能账号:vendorultrapower 密码:Oww1eX7ig8RXn2jEYQiw
KV账号:ctyun_bdcsc_ultrapower 密码:123456
神州泰岳部署情况如下:
测试区,10.0.172.201
ctyun_ruku.jar和config配置文件存放位置:
/home/vendorultrapower/ctyun
Lib文件夹和脚本cloud.sh存放位置:
/home/vendorultrapower
Serial文件位置在hdfs上:
/daas/bstl/sztyserial
泰岳的运行程序:
执行nohup ./ruku.sh &或者java -jar ctyun_ruku.jar 注意:生产区不可用nohup ./ruku.sh &
泰岳的URL示例:
海贝RTB产品
目前海贝RTB产品移动和电信都尚未上线,据厂家人回复,仍然在改程序。
海贝环境部署情况如下:
kv账号:
测试区,10.0.172.201
hibay_dmp.zip压缩包存放位置:
/home/yuejing/hibay
海贝URL(移网)示例
以上是三个移网URL,固网目前还尚未测试过。
亚信RTB产品
亚信堡垒机账号:vendoryx
kv账号密码:ctyun_bdcsc_asia 81c1b4ee6bac4c16
接口示例:
http://42.123.72.81:8081/bdapi/restful/fog/asia/getSingleUserTags/ctyun_bdcsc_asia/cbf422b26ca682c3c3c11dcae825a928.json?key=uid_m370002_2_2_20160122
ETL调度进度
目前ETL调度监控任务运行情况仍然有问题。使用我们22机器作为调度机器,使用生产区一台机器作为执行任务的机器目前没有问题,任务可以执行成功。但是,使用我们测试区201机器作为执行任务的机器目前还是没有任何任务的状态。问题已经报到了bug上,作为一个记录,只有任务运行成功了,才能继续后面的一对一调度,一对多调度,依赖关系调度等用例的执行。
201机器ssh密码:Db4954Fd9acXjxVx9PpZ
调度程序部署地址:
22机器上
/home/APTEST/ETL
tomcat部署地址:
207机器
/home/zhaohz/tomcat/apache-tomcat-8.0.26/webapps
Shell脚本地址
207机器
/root/apache-tomcat-6.0.43/shell/schcmd-reconf.sh
查看调度启停:
1.进入主机:172.16.0.22
2.选择1,1
3.输入:ssh hadp@10.0.174.3
4.输入password:hadp
5.执行:schagent-start.sh命令 如果现实已经启动,那么说明客户端已经启动
执行:schsvr-start.sh命令 如果现实已经启动,那么说明服务端已经启动
查看数据库插入数据情况:
进入22机器,登录数据库
选择schdb库,里面是我们调度的表
孔宁宁堡垒机账号:
Cskongnn
密码:OfnAS6TAfb4Pov7Xe6eV
集奥产品部署情况
- 将jar包上传至/home/geo/geo1.1.13/test1.1.13和/home/geo/geo1.1.13/bin两个目录下
- 将所有.sh脚本上传至/home/geo/geo1.1.13/bin
- 将resource压缩包上传至/home/geo/geo1.1.13目录下,然后解压至/home/geo/geo1.1.13/resource-20151030目录下
- 脚本的修改
(1) 请打开run.fix.sh脚本
将INPUTDATEA后面的日期改成测试数据的实际日期
将HOUR后面的数据改为实际跑的数据的时间
比如,我们跑的是2015年9月14日18点重庆的数据那修改结果如下
DATE=20150914
HOUR=18
(2) 修改完时间后,请将INPUTDATEA和HOUR前面的注释符号(#)去掉,然后将最后一行用”#”注释掉
(3) 修改后效果如截图所示
(4) 请将run.moblile.sh和run.4g.sh依照run.fix.sh修改
注意:下面是以startmr开头的脚本
(5) 请将startmr.fix.sh打开
请将PROVINCE后面省份修改为实际测试的省份
请将DIFFTIME后面的时间修改为测试数据的时间
如图
(6) 请将resource一行改为resource=/user/geo/resource_dxjt
请将OUTDIR一行改为OUTDIR=/user/geo/mrresult_dxjt
如图
(7) 请将如图所示红色框框后面的数据行删除,保留引号
如图
(8) 请在脚本里找到-D fs.defaultFS为开头的数据行,将其改为-D fs.defaultFS=hdfs://ecloudtest
(9) 其他两个需要修改的脚本分别为startmr.moblile.sh 和startmr.4g.sh
请依照开发者的提示修改后上传到/home/geo/geo1.1.13/bin目录下。
- 数据的准备
fix的固网数据 用的是 重庆15年9月14号 18:00 的数据
mobil移网数据 用的是 北京15年9月8号 18:00 的数据
4g 用的是 北京15年9月9号 18:00 的数据
- 项目进展
run.fix.sh运行过程中有几个报错,上午经修改配置后运行了一下,程序还没有运行完,需继续观察。剩下两个脚本run.moblile.sh和run.4g.sh需要等第一个脚本跑通后再进行配置,运行。run.moblile.sh对应的需要配置的脚本是startmr.moblile.sh,run.4g.sh对应的需要配置的脚本是startmr.4g.sh,这两个脚本请依照开发者指导进行配置。