大型网站技术架构,4网站的高性能架构之网站性能测试

网站性能是客观的指标,可以具体到响应时间、吞吐量等技术指标,同时也是主观的感受,而感受则是一种与具体参与者相关的微妙的东西,用户的感受和工程师的感受不同,不同的用户感受也不同。

4.1 网站性能测试

性能测试是性能优化的前提和基础,也是性能优化结果的检查和度量标准。不同视角下的网站性能有不同的标准,也有不同的优化手段。

4.1.1 不同视角下的网站性能

1、用户视角的网站性能

用户感受到的时间,包括用户计算机和网站服务器通信的时间、网站服务器处理的时间、用户计算机浏览器构造请求解析响应数据的时间

实践中,使用一些前端架构优化手段,通过优化页面HTML样式、利用浏览器端的并发特性和异步特性、调整浏览器缓存策略、使用CDN服务、反向代理等手段,使浏览器尽快地显示用户感兴趣的内容、尽可能近地获取到页面的内容,即使不优化应用程序和架构,也可以很大程度地改善用户视角下的网站性能。

2、开发人员视角的网站性能

开发人员关注的主要是应用程序本身及其相关子系统的性能,包括响应延迟、系统吞吐量、并发处理能力、系统稳定性等技术指标。

主要优化手段有使用缓存加速数据读取,使用集群提高吞吐能力,使用异步消息加快请求响应及实现削峰,使用代码优化收到改善程序性能。

3、运维人员视角的网站性能

运维人员更关注基础设施性能和资源利用率,如网络运营商的带宽能力、服务器硬件的配置、数据中心网络架构、服务器和网络带宽的资源利用率等。主要优化手段有建设优化骨干网、使用高性价比定制服务器、利用虚拟化技术优化资源利用等。

4.1.2 性能测试指标

从开发和测试人员的视角,网站性能测试的主要指标有响应时间、并发数、吞吐量、性能计数器等。

1、响应时间

指应用执行一个操作需要的时间,包括从发出请求开始到收到最后响应数据所需要的时间。

重复请求方法:一个请求操作重复执行一万次,测试一万次执行需要的总响应时间之和,然后除以一万,得到单次请求的响应时间。

2、并发数

指系统能够同时处理请求的数目,也反应了系统的负载特性。对于网站而言,并发数即网站并发用户数,指同时提交请求的用户数目。

网站系统用户数>>网站在线用户数>>网站并发用户数

在网站产品设计初期,产品经理和运营人员就需要规划不同发展阶段的网站系统用户数,并以此为基础,根据产品特性和运营手段,推算在线用户数和并发用户数。这些指标将成为系统非功能设计的重要依据。

为了真实模拟用户行为,测试程序并不是启动多线程然后不停地发送请求,而是在两次请求之间加入一个随机等待时间,这个时间被称作思考时间。

3、吞吐量 

指单位时间内系统处理的请求数量,体现系统的整体处理能力。

请求数/秒

页面数/秒

访问人数/天

处理的业务数/小时

TPS(每秒事务数)

HPS(每秒HTTP请求数)

QPS(每秒查询数)

在系统并发数由小逐渐增大的过程中,系统吞吐量先是逐渐增加,达到一个极限后,随着并发数的增加反而下降,达到系统崩溃点后,系统资源耗尽,吞吐量为零。

这个过程中,响应时间则是先保持小幅上升,达到吞吐量极限后,快速上升,到达系统崩溃点后,系统失去响应。

网站性能优化的目的,除了改善用户体验的响应时间,还要尽可能提高系统吞吐量,最大限度利用服务器资源。

4、性能计数器

它是描述服务器或操作系统性能的一些数据指标。

包括System Load、对象与线程数、内存使用、CPU使用、磁盘与网络I/O等指标。

这些指标也是系统监控的重要参数,对这些指标设置报警阈值,当监控系统发现性能计数器超过阈值时,就向运维和开发人员报警,及时发现处理系统异常。

System Load即系统负载,指当前正在被CPU执行和等待被CPU执行的进程数目总和,是反映系统忙闲程度的重要指标。

Load的理想值是CPU数目,

高于CPU数目,表示进程在排队等待CPU调度,表示系统资源不足,影响程序执行性能

低于CPU数目,表示CPU空闲,资源存在浪费

Linux系统中使用top命令查看,该值是三个浮点数,表示最近1分钟,10分钟,15分钟的运行队列平均进程数。

4.1.3 性能测试方法

性能测试是一个总称,具体可细分为性能测试、负载测试、压力测试、稳定性测试。

性能测试

以系统设计初期规划的性能指标为预期目标,对系统不断施加压力,验证系统在资源可接受范围内,是否能达到性能预期

负载测试

对系统不断地增加并发请求以增加系统压力,直到系统的某项或多项指标达到安全临界值,如某种资源已经呈饱和状态,这时对系统施加压力,系统的处理能力不但不提高,反而会下降。

压力测试

超过安全负载的情况下,对系统继续施加压力,直到系统崩溃或不能再处理任何请求,以此获得系统最大压力承受能力

稳定性测试

被测试系统在特定硬件、软件、网络环境下,给系统加载一定业务压力,使系统运行一段较长时间,以此检测系统是否稳定。

应不均匀地对系统施加压力。

 性能测试曲线

a~b为网站的日常运行区间

c为最大负载点,超出这个点,系统处理能力下降,资源消耗更多

d为崩溃点,达到极限后,系统不能再处理任何请求。

性能测试测试目标:评估系统性能是否符合需求及设计目标

负载测试测试目标:评估当系统因为突发事件超出日常访问压力的情况下,保证系统正常运行情况下能够承受的最大访问负载压力

压力测试目标:评估可能导致系统崩溃的最大访问负载压力。

 并发用户访问响应时间曲线

 在日常运行区间,可以获得更好的用户响应时间,随着并发用户数的增加,响应延迟越来越大,直到系统崩溃,用户失去响应。

4.1.4 性能测试报告

4.1.5 性能优化策略

如果性能测试结果不能满足设计或业务需求,那么就需要寻找系统瓶颈,分而治之,逐步优化。

1、性能分析

排查一个网站的性能瓶颈的手法:

检查请求处理的各个环节的日志,分析哪个环节响应时间不合理、超过预期;

然后检查监控数据,分析影响性能的主要因素使内存、磁盘、网络、还是CPU,是代码问题还是架构设计不合理,或者系统资源确实不足。

2、性能优化

定位问题具体原因后,就需要进行性能优化,根据网站分层架构,可分为Web前端性能优化、应用服务器性能优化、存储服务器性能优化3大类。

小结:

这一篇学习了,性能测试指标,性能测试方法,根据性能测试结果判断是否要优化,简单的介绍了性能优化策略,包括性能分析的思路,以及简单的讲了下性能优化,后面文章逐个学习分层架构中三大类优化措施。

作者: 元宝爸爸

出处:https://www.cnblogs.com/wozixiaoyao/p/11965398.html

版权:本文采用「署名-非商业性使用-相同方式共享 4.0 国际」知识共享许可协议进行许可。

觉得文章不错,点个关注呗!

原文地址:https://www.cnblogs.com/xinrong2019/p/11463404.html