配色: 字号:
腾讯大讲堂19-系统优化的方向
2020-02-28 | 阅:  转:  |  分享 
  
sunshinexiong2008-01-15系统优化的方向?监控对研发的支持系统优化的驱动力问题监控
自我实现和挑战监控被动式监控运维监控,Port、CPU、Memory、DiskIO、NetIO、FileSize、Dis
kSize主动式监控HttpWatch工具Cgi自动化测试立体化监控体系运营数据采集http://isd.itil.
com每天自动邮件,纪录每台设备的运维情况综合负载CPU占用率网络流量(出、入)网络包(出、入)LoadAverag
e/5min磁盘Blockin/out监控邮件、url地址HttpWatch工具Cgi自动化测试平台http://
itil.isd.com3.0结果展示Cgi自动化测试原理模拟前台JS代码发送cgi请求,并接收返回,纪录响应时间,并分析
返回包实质是一种黑盒集成测试监控结果存在某种程度的失真建议在返回包中,提供返回码立体化监控LogServer
立体化监控运营数据分析isdstat.cm.comIDC测试平台idcspeed.oa.com优化工作基础数据分析
举例:猜扑克牌enumcard{cardA,card2,card3,card4,card5,card6,card7,ca
rd8,card9,card10,cardJ,cardQ,cardK};enumcardi,j,k;for(i=
cardA,i=cardA,kreturn0;intfunc(intx,inty,intz);如何优化?func(A,A,A)fu
nc(A,A,2)func(A,A,3)func(A,A,4)…func(A,2,A)func(A,2,2)func(
A,2,3)func(A,2,4)…func(2,A,A)func(2,A,2)func(2,A,3)func(2,A
,4)…intfunc(intx,inty,intz);enumcard{cA,c2,c3,c4,c5,c
6,c7,c8,c9,c10,cJ,cQ,cK};enumcardi;intcount=0,ret;for(i
=cA,i=count+ret?return0,count+=ret;日志优化新cache优化后效果日志回复CACHE上线后,CA
CHE高峰期处理的平均延时由200-500ms左右降至20ms左右;目前日志title的命中率在92%左右,其平均延时在8ms左右
,以前高峰期在50-60ms左右目前日志title还需8ms的原因,应该与目前日志title的数据有关,每次DB的IO操作的数
据量比较大影响的后台数据CACHE的性能提升,减少了前台WEB接入的httpsvr的压力,用户体验提升,同时也相应带来了系统稳
定性的提升旧系统结构模块日志回复日志标题日志计数优点CACHE内存化,提升性能多进程号段分布处理业务异步化缺点
CACHE量有限,命中率低,对DB的性能依赖比较重模块相互独立,容易造成数据不一致现网数据分析数据量日志标题cache
10台约69G命中率:约90%DB5台约340G日志回复cache20台约
68G命中率:约50%DB20台约9T日志计数cache10台约122G命中率:约
100%DB4台约100G访问量日志标题高峰期:7100次/秒日志回复高峰期:5000次/秒
日志计数高峰期:7000次/秒新系统结构系统分三个模块:日志信息、日志标题、访问计数CGI层对日志标题、访问计数模块有读/
写权限;对日志标题模块只有读权限,其数据来源于日志信息模块新cache优化后效果日志回复CACHE上线后,CACHE高峰期处理
的平均延时由200-500ms左右降至20ms左右;目前日志title的命中率在92%左右,其平均延时在8ms左右,以前高峰期在5
0-60ms左右目前日志title还需8ms的原因,应该与目前日志title的数据有关,每次DB的IO操作的数据量比较大影响的
后台数据CACHE的性能提升,减少了前台WEB接入的httpsvr的压力,用户体验提升,同时也相应带来了系统稳定性的提升日志
信息模块性能单台机器4个CACHE,容纳6000万个存储节点,CACHE数据量为210G左右空间,每秒中的处理请求约900次(其
中读800/写100),平均延时为100ms,每分钟内处理超过1秒的请求为32个,占这分钟内访问约1/1000现网布局:15台
cache6台DB日志容量扩容日志数据几何级数增长,每12个月数据容量翻一番DB设备越来越多,旧架构需要翻倍增长
日志正文同回复的存储在一起新日志存储日志不再按照QQID存储Qzone网管监控:coatizhao、johnzhao
Cgi自动化测试:Ashwang立体化监控:frankyang、samuelliao模块间调
用:minskzhangQzone页面测速:galen、stonehuangQzone:stevetang、xiahz
献花(0)
+1
(本文系新用户18771...首藏)