星空雅梦

.Net高并发解决思路

2018年10月21日 14:19:14 赵东小生阅读数：736

高并发

高并发一直是网站上线后会遇到的一个严峻的考验，渡过了一切都好,渡不过就是宕机。

在电商时代如此发达的今天,高并发无此不在双十一、618、双十二，还有雷猴王的某米手机抢购。首先我们要分析高并发究竟会给我们开发者带来什么样的挑战

大量的请求，如果仅仅只有一台服务器肯定是吃不消的，通常一些公司都是一台服务器上部署了很多个网站也充当了数据库服务器、redis服务器。如果要应用高并发没有足够的硬件支持是不行的。我们需要进行分布式集群以及负载均衡

硬件支持有了过后，我们就需要下一步的分析

这时我们还需要提高网站的吞吐量，怎么提高呢？首先我们需要针对IO密集型做异步化操作,抢单的页面不只是有抢单按钮，还有商品的介绍，图片，文字描述等。对于这些数据我们要进行缓存，一万个用户一万次请求都从数据库中取数据与只取一次剩下9999次从缓存中取效率自然是不一样的

上面说的都是为了解决一个高字，而并发才是我们真正需要准备的，假如两个用户同时请求，这时库存还有1，程序里先判断库存是不是1，现在都符合条件，然后进行生成订单等操作。就发生了资源共享的问题，明明只有一个订单，但是两个用户都完成了订单，那么这个商品应该给谁呢？

并发

假设现在是一个电商网站，今天要举办活动，有10个商品低价销售，但是会来抢购的人会特别多，最后只有十个人可以成功的买到商品

假设的逻辑，我们用户进行了请求，我们把他们的信息放到库里，但是只有前十个人是可以购买商品的，因为库存只有10个

也许我们可以用锁来解决并发的问题，但是锁无疑带来的是效率的低下，用户体验也极低。我们想要的是快速返回，但是后面那一堆的逻辑怎么办呢？我们可以使用RabbitMq队列，用户的请求到达了抢单接口，我们只向队列中丢一条数据后就立即返回

这时又来了一个问题，会有同一个用户多次进行请求的情况，如果像之前的逻辑，前10条信息有二条是属于一个人的呢，（这里假设每个人只可以购买一次）我们就需要进行判断了，同一个账户发送的多次请求，我们只认为第一次请求是有效的，剩下的都请都直接返回。因为是并发，我们又怎么做到第一次请求有效呢？这时我们可以使用Redis incr存储用户的标识，Redis是单线程的，不存在并发的问题。incr返回为1那么是第一次请求，为N则是第N请求那么它就是无效的。这是请求标识

请求标识我们可以在抢单接口就进行判断，也就是先拿用户的标识去Incr，返回为1则丢到队列，不为1则不丢到队列。

也可以在rabbitmq的消费端进行处理，从rabbitmq消息队列中拿到用户信息后，进行incr。再进行下一步操作

丢到了消息队列中，我们还需要去处理，consumer我们肯定是要有多个的，我们可以使用平分分发与手动交付。在这里我们把用户的信息进行入库，当然入库后我们再向Redis中存入一条入库标识

上面都是在后端，客户端这里点击了抢单按钮后可以立即导向排队界面（是不是很熟悉，某米。。。）在这个界面进行轮询五秒一次，判断当前用户在库中的位置，如果是前十，那么就进行订单操作，不是。。。那就再等，看看会不会有其他用户放弃购买资格。

测试方法：
本地模拟测试网站高访问高并发采用的测试工具是大名鼎鼎的Loadrunner，这个工具做测试的一般都知道。在代震军的博客中，有以下几篇介绍了通过Loadrunner进行压力并发测试。

当DiscuzNT遇上了Loadrunner(上)
http://www.cnblogs.com/daizhj/archive/2009/09/25/1573926.html

当DiscuzNT遇上了Loadrunner(中)
http://www.cnblogs.com/daizhj/archive/2009/09/27/1574897.html

当DiscuzNT遇上了Loadrunner(下)
http://www.cnblogs.com/daizhj/archive/2009/09/27/1575091.html

Discuz!NT是一个论坛程序，是典型的互联网应用，在设计时本身就考虑了互联网应用场景下高并发高访问量的需求，在普通开源版本中，主要采用的缓存机制来提高系统的性能。

一、缓解数据库读取压力

相关文章如下：
Discuz!NT 缓存设计简析 [原创]
http://www.cnblogs.com/daizhj/archive/2007/08/15/855163.html

这个缓存机制使用的是.Net本身提供的缓存功能，System.Web.Caching.Cache
这个方案可以解决一般访问量不是很大的站点的需求，更高一级的，可以通过增加Web园工作进程来达到提升性能的需求，而且这个方案里面，已经解决多进程下缓存同步的问题。

在Discuz!NT企业版中，提供了更高层次的解决方案，使用了分布式缓存机制，引入了Memcached、Redis、LLServer，相关文章如下：

Discuz!NT中集成Memcached分布式缓存
http://www.cnblogs.com/daizhj/archive/2009/03/23/1386652.html

在Discuz!NT中进行缓存分层(本地缓存+memcached)
http://www.cnblogs.com/daizhj/archive/2009/11/17/1604436.html

Discuz!NT中的Redis架构设计

http://www.cnblogs.com/daizhj/archive/2011/02/21/1959511.html

Discuz!NT跨站缓存同步

http://www.cnblogs.com/daizhj/archive/2010/06/18/discuznt_memcache_syncdata.html

Discuz!NT中的LLServer架构设计

http://www.cnblogs.com/daizhj/archive/2011/08/26/discuznt_llserver_arch.html

Memcached是danga.com（运营LiveJournal的技术团队）开发的一套分布式内存对象缓存系统，用于在动态系统中减少数据库负载，提升性能。具体的介绍可以参考：

Memcached深度分析
http://www.cnblogs.com/luluping/archive/2009/01/14/1375456.html

通过以上的方案，能解决大部分高访问高并发的需求，因为论坛产品的特殊性，读写比大概是4:1，所以首先应该在读数据方面进行减压优化。

二、缓解Web服务器压力

Discuz!NT在缓解Web服务器压力上采用了如下的方案。

将用户上传的附件通过FTP方式传送到另外一台服务器上，相关的文章如下：Discuz!NT中远程附件的功能实现[FTP协议]
http://www.cnblogs.com/daizhj/archive/2008/07/28/1254648.html

3. 通过SQUID将静态文件缓存分布
使用SQUID做静态前端，将论坛中的大部分静态文件布署或外链到一个新的HTTP链接上，从而给Web服务器减压，提升性能。Discuz!NT静态文件缓存(SQUID)解决方案
http://www.cnblogs.com/daizhj/archive/2010/06/10/1692758.html
三、负载均衡

通过以上的方案，Web服务器压力小了，性能也提升了，但是如果遇到更高的并发访问量，单台Web服务器还是不能满足需求，Discuz!NT采取了负载均衡的方案。使用了LVS+KEEPALIVED、NGINX等。相关文章如下：

　　　　Discuz!NT负载均衡解决方案(HA)之---LVS(Linux Virtual Server)
　　　　http://www.cnblogs.com/daizhj/archive/2010/06/13/1693673.html

　　　　Discuz!NT负载均衡解决方案(HA)之---LVS(Linux Virtual Server)

　　　　http://www.cnblogs.com/daizhj/archive/2010/06/13/1693673.html

　　　　Discuz!NT负载均衡方案

　　　　http://www.cnblogs.com/daizhj/archive/2010/06/24/1667422.html

　　　　使用的是nginx,使用nginx作为前端负载均衡，这个确实很有吸引力，有时间能试用下就好。
四、缓解数据库压力
在Discuz!NT中，数据库作为数据持久化工具，必定在并发访问频繁且负载压力较大的情况下成为系统性能的‘瓶颈’。即使使用上面的本地缓存等方式来解决频繁访问数据库的问题，但仍旧会有大量的并发请求要访问动态数据，其中的‘读写分离’方案就是一种被广泛采用的方案。相关文章：

　　　　Discuz!NT数据库读写分离方案

　　　　http://www.cnblogs.com/daizhj/archive/2010/06/21/dbsnap_master_slave_database.html

　　　　全文搜索方案：

　　　　Discuz!NT企业版之Sphinx全文搜索(上)

　　　　http://www.cnblogs.com/daizhj/archive/2010/06/28/discuznt_entlib_sphinx_one.html

　　　　Discuz!NT企业版之Sphinx全文搜索(下)

　　　　http://www.cnblogs.com/daizhj/archive/2010/06/30/discuznt_entlib_sphinx_two.html

　　　　处理大数据量：

　　　　Discuz!NT千万级数据量上的两驾马车--TokyoCabinet,MongoDB

　　　　http://www.cnblogs.com/daizhj/archive/2010/07/22/1781140.html

好了，上面就是Discuz!NT企业版为了提升性能采取的一系列方案，确实对asp.net互联网应用很有参考价值，其中用到的很多开源产品都是基于Linux的，如Memcached、Redis、LLServer、SQUID、NGINX、LVS、Sphinx，虽然有些产品有Windows版本，但是其性能表现能力远远比不上Linux上面，看来在Web应用上，性能方面的表现以及开源产品的研究，Linux远远的走在了Windows前面。