神经网络与主元分析相结合的主元神经网络提供了一种自适应并行在线的主元及主子空间分析技术,但是对非高斯随机系统的数据,基于最小均方重构误差的主元分析所提取的主元方向不是最大化信息方向.本文先给出一种基于最小均方差的自关联主元网络,分析其最佳的均方差重构性质和非信息最大化特性;然后提出了以最小残差信息熵为学习目标主元的神经网络,并给出了网络输出残差熵的近似计算方法和网络学习方法;最后分析了在高斯随机分布系统下,最小残差熵与最小均方重构误差的分析结果是一致的.
主元分析 主元神经网络 最小残差熵 最小均方差