复数域上的人工神经网络与量子计算

【灵感来源】
https://mp.weixin.qq.com/s?__biz=MzIwMTE1NjQxMQ==&mid=2247505018&idx=3&sn=3d793565f9b1121b2fc29f03b2454c96&chksm=96f0a62ea1872f3811f78c0077e035eda81a9dbb4b170d8e0a3c8dcbdbe3fc1e9c22579fc0ce&scene=126&sessionid=1587514945&key=3afabdf7cfda3d9e6c879f10fa65255ce24a186bd472b616cec9b9e40ea87154f83165c0b03cab91001a3b1e0a80f47275bcd07eaa76505432007f21682ca83dc1a3fc9ae3c83d0c7f558a649c9ee280&ascene=1&uin=MjI2Mjg4NTQyNg%3D%3D&devicetype=Windows+7+x64&version=62090070&lang=zh_CN&exportkey=AXzfo6uAFREzVf12C5oMtTk%3D&pass_ticket=y3SreUFFXRx%2BcsWprRGudLpI04MO6SEfwpj4Rx7242uwaB2LRDpRV0Nl3Vze9Aw4
1.什么是复数域上的人工神经网络?
写这篇博客的时候,DeepMind已经用强化学习虐菜人类了,而自动驾驶已经进入道路实测了。
都这时候了,为啥还要掀工业界老底挖学术界祖坟?
因为目前的单值函数模型的人工神经网络的处理能力已经触顶,NAS(神经网络架构搜索)之所以这么火,
一个原因是人类进入了人工设计模块的举步维艰时刻,而NAS本身突破也很小,因为基础神经单元模块太受限了。
以至于Google急于将搜索的基础算子扩展到所有可用的算术符号和所有基本函数上,
寄期望于通过类似于遗传算法等启发式算法搜索得到比当前ANN更好的信息处理结构,结果是很惨淡的。
一大原因就是单值函数和人类的基于脉冲信号处理(信号是复数域的)完全不同,
生物学家也证明了生物神经单元的结构和功能都远比基于单值函数MLP模型的人工神经元要复杂的多。
很早就有人提出了在复数域上处理信息的神经网络,叫复数神经网络,扩展到复数域后就能处理时序信息。
(采用傅立叶变换,可以将任意一维连续时序信号转化到频域上成为离散的脉冲,就能用机器进行处理)
但没有为AI发展做出较大贡献,原因猜测是复数域的模型太难训练了,而且推理速度也比单值函数的神经网络模型要慢。
实数域上的训练系统是以反向传播自动梯度推导为基础的,这一套系统和实现已经相当完善,而复数域的几乎没看到过确定可用的方法。
2.什么是量子计算?
截至目前,量子计算机的计算能力依然很弱小,而且只能用于处理随机数生成等少数问题,还没法用于常规问题求解,
当然也无法模拟稍微复杂一点的图灵计算,因为量子计算的原理更偏向于模拟计算,而不是离散计算,
一个变量的值在量子计算中处于暧昧状态,不是确定的值,这一点和图灵的唯一确定性比特的信息单元概念完全不同,
所以,量子计算不应该用于处理确定性问题,而更适合处理概率预测之类的问题,这就非常像目前人工智能AI的处理范围了,
用图灵机来模拟智能,可能就是错误的道路。
3、复数神经网络+量子计算?
量子计算用于复数域的潜力很大,至少从量子力学是从复数域的线性代数矩阵论出发利用几个看起来很诡异的
量子观测规则构建起来的数学系统来看,量子之间的相互作用,和以流行映射为基础的人工神经网络很像。
本质上量子力学是线性的。量子的状态的可分解和可叠加性就是佐证。当然,我对量子力学也是没有认真学过的,可能我说的全是错的。
但从对不确定状态进行观测的角度来看,神经元处理信息的方式很像量子行为,在量子比特间有隐藏的诡异的相互制约作用,
但只有观测才会确定真实的状态,而真实的状态的确定又是遵循概率论的,所以,类似贝叶斯系统。
神经网络中神经元的激活状态应该也是类似的。所有神经元之间构成的电信号传递是模糊不确定的,
神经元是概率性激活的,不是给强刺激就一定会被激活,也不是弱刺激下一定不会激活(像不像DropOut?),
而是强刺激下高概率激活,弱刺激下低概率激活。这和量子的状态太像了,交互量子的状态会概率决定当前量子的状态,
但在观测之前它的状态都是介于几个有限的自旋态之间的。所以贝叶斯网络是可以采用量子构建的,
而操纵端末节点的量子的状态就可以超光速的改变输出节点的量子状态。而不需要用图灵机去模拟概率,
甚至有些构成环状的连接(量子团)对应的贝叶斯稳态求解本身就是个NP难问题,用图灵机不一定能求解。
而采用量子之间的直接拓扑关系就能立即得到最终量子作用稳态的结果,也即收敛后的解。

原文地址:https://www.cnblogs.com/thisisajoke/p/12749921.html