Compositional Attention Networks for Machine Reasoning

原文链接:https://arxiv.org/abs/1803.03067

MAC网络是一种新的全可微神经网络架构,目标在于提升推理的表现力。受到计算机架构原则的启发,MAC 不使用传统的神经网络黑箱架构,转而采用了提倡透明性、多用途的设计。


如图,MAC网络组成部分为一个输入神经元、一个核心循环网络、一个输出神经元。输入神经元将突破转化为feature,循环网络将问题分解为一系列运算,从图片中提取信息形成循环记忆。通过这些运算,网络按照序列进行逻辑推理。

MAC网络的核心在于中间的循环神经网络。与传统的网络结构不同,这部分循环网络由MAC神经元构成。p个MAC神经元串在一起,每一个神经元负责一个推理步骤,将控制和记忆逐级传递、更新,最终输出。

作者称MAC网络的设计受到了计算机架构的启发,我猜测是指计算机组成中的流水线CPU——分为五个流水级,数据和控制信号逐级传递,数据通路包括读写两个过程,控制信号对数据读写进行控制。


如图,每一层的MAC神经元读取上一级的控制和记忆,分别传入神经元中的控制模块和读写模块。

控制模块利用上级控制信息Ci-1和从问题中提取的信息q产生下级控制信息Ci。

读写模块中利用上级记忆Mi-1和图片KB读入新的信息Ri,利用Ri和Mi-1写出下级记忆Mi。读过程和写过程分别受Ci-1和Ci的控制。


在实验中,作者比较了MAC与其他模型在CLEVR数据集的不同任务上的准确性,模型达到了state-of-the-art的准确度,同时还具有很高的计算效率和数据效率,取得更好效果的同时所需数据量仅为其他模型的1/6。

 
 
 
原文地址:https://www.cnblogs.com/zkwang/p/12717198.html