Netty框架问题记录1--多线程下批量发送消息导致消息被覆盖

业务背景

项目是基于Netty实现的实时课堂项目，课堂中老师需要对试卷进行讲解，则老师向服务器发送一个打开试卷信息的请求，服务器获取试卷信息，将试卷信息发送给所有的客户端（学生和老师）。

发送给学生的时候需要在试卷信息中加上本人得分的信息。

实现方式大致如下：

1 Paper paper = getPaper(paperId); // 根据试卷ID获取试卷详细信息
2 for(Client client : allClients){
3    paper.setMyScore(getMyScore(client.getUserId())); //根据userId获取本人得分
4   client.send(paper); //向客户端发送数据
5 }

结果：学生A收到的得分是学生B的得分，也就是发送给clientA的paper数据被发送给clientB的paper数据给覆盖了，因为paper对象是同一个

原因分析：

虽然发送给所有客户端的信息都是paper对象，但是是在for循环里面执行的send方法，也就是说理论上应该是clientA的send方法执行完了之后才会执行clientB的send方法，也就是说理论上应该是学生A收到的paper信息之后学生B才会收到paper信息。

所以得出的结论猜想就是send方法不是同步执行的，而是异步的。追踪代码进行分析

第四行的代码client.send(paper) 实际就是调用了Channel的writeAndFlush方法

追踪到AbstractChannel的实现如下：

1 @Override
2     public ChannelFuture writeAndFlush(Object msg) {
3         return pipeline.writeAndFlush(msg);
4     }

执行了ChannelPipeline的writeAndFlush方法，跟踪实现类DefaultChannelPipeline的实现如下：

1 @Override
2     public final ChannelFuture writeAndFlush(Object msg) {
3         return tail.writeAndFlush(msg);
4     }

执行的是ChannelHandlerContext的writeAndFlush方法，跟踪实现类AbstractChannelHandlerContext实现如下：

1 @Override
2     public ChannelFuture writeAndFlush(Object msg) {
3         return writeAndFlush(msg, newPromise());
4     }

执行了内部的writeAndFlush方法，继续跟踪如下：

 1 @Override
 2     public ChannelFuture writeAndFlush(Object msg, ChannelPromise promise) {
 3         if (msg == null) {
 4             throw new NullPointerException("msg");
 5         }
 6 
 7         if (isNotValidPromise(promise, true)) {
 8             ReferenceCountUtil.release(msg);
 9             // cancelled
10             return promise;
11         }
12 
13         write(msg, true, promise);
14 
15         return promise;
16     }

write方法如下：

 1 private void write(Object msg, boolean flush, ChannelPromise promise) {
 2         AbstractChannelHandlerContext next = findContextOutbound();
 3         final Object m = pipeline.touch(msg, next);
 4         EventExecutor executor = next.executor();
 5         if (executor.inEventLoop()) { //判断当前线程是否是EventLoop线程
 6             if (flush) {
 7                 next.invokeWriteAndFlush(m, promise);
 8             } else {
 9                 next.invokeWrite(m, promise);
10             }
11         } else {
12             AbstractWriteTask task;
13             if (flush) {
14                 task = WriteAndFlushTask.newInstance(next, m, promise);
15             }  else {
16                 task = WriteTask.newInstance(next, m, promise);
17             }
18             safeExecute(executor, task, promise, m);
19         }
20     }

跟踪到这里终于有所发现了，方法逻辑大致如下：

1.获取channelPipeline中的head节点

2.获取当前channel的eventLoop对象

3.判断当前channel的eventLoop对象中的线程是否是当前线程

4.如果是EventLoop线程，则直接执行writeAndFlush方法，也就是执行写入并且刷新到channelSocket中去

5.如果不是EventLoop线程，则会创建一个AbstractWriteTask，然后将这个task添加到这个channel的eventLoop中去

分析到这里就可以总结问题的所在了，如果执行channel的writeAndFlush的线程不是work线程池中的线程，那么就会先将这个发送消息封装成一个task，然后添加到这个channel所属的eventLoop中的阻塞队列中去，

然后通过EventLoop的循环来从队列中获取任务来执行。一旦task添加到队列中完成，write方法就会返回。那么当下一个客户端再执行write方法时，由于msg内容是同一个对象，就会将前一个msg的内容给覆盖了。

从而就会出现发送给多个客户端的内容不同，但是接收到的内容是相同的内容。而本例中，执行channel的write方法的线程确实不是eventLoop线程，因为我们采用了线程池来处理业务，当channel发送数据给服务器之后，

服务器解析channel中发送来的请求，然后执行业务处理，而执行业务的操作是采用线程池的方式实现的，所以最终通过channel发送数据给客户端的时候实际的线程是线程池中的线程，而并不是channel所属的EventLoop中的线程。

总结：

Netty中的work线程池中的EventLoop并不是一个纯粹的IO线程，除了有selector轮询IO操作之外，还会处理系统的Task和定时任务。

系统的task是通过EventLoop的execute(Runnable task)方法实现，EventLoop内部有一个LinkedBlockingQueue阻塞队列保存task，task一般都是由于用户线程发起的IO操作。

每个客户端有一个channel，每一个channel会绑定一个EventLoop，所以每个channel的所以IO操作默认都是由这个EventLoop中的线程来执行。然后用户可以在自定义的线程中执行channel的方法。

当用户线程执行channel的IO操作时，并不会立即执行，而是将IO操作封装成一个Task，然后添加到这个channel对应的EventLoop的队列中，然后由这个EventLoop中的线程来执行。所以channel的所有IO操作最终还是

由同一个EventLoop中的线程来执行的，只是发起channel的IO操作的线程可以不是任何线程。

采用将IO操作封装成Task的原因主要是防止并发操作导致的锁竞争，因为如果不用task的方式，那么用户线程和IO线程就可以同时操作网络资源，就存储并发问题，所以采用task的方式实现了局部的无锁化。

所以线程池固然好用，netty固然强大，但是如果没有深入理解，稍有不慎就可能会出现意想不到的BUG。