唐利霞
- 作品数：4 被引量：4H指数：1
- 供职机构：广西大学计算机与电子信息学院更多>>
- 发文基金：国家自然科学基金广西大学科研基金广西壮族自治区科技攻关计划更多>>
- 相关领域：自动化与计算机技术更多>>
- Ridge Polynomial神经网络带动量项异步梯度算法的收敛性
- 2013年
- 将动量项引入到Ridge Polynomial神经网络异步梯度训练算法的误差函数中,有效地改善了算法的收敛效率,并从理论上分析了Ridge Polynomial神经网络的带动量项的异步梯度算法的收敛性,给出了算法的单调性和收敛性(包括强收敛性和弱收敛性)。算法的这些收敛性质对于如何选取学习率和初始权值来进行高效的网络训练是非常重要的。最后通过计算机仿真实验验证了带动量项的异步梯度算法的高效性和理论分析的正确性。
- 喻昕唐利霞于琰
- 关键词：RIDGE动量项
- Ridge Polynomial神经网络带动量项异步梯度算法的收敛性
- 将动量项引入到Ridge Polynomial神经网络异步梯度训练算法的误差函数中，有效地改善了算法的收敛效率，并从理论上分析了Ridge Polynomial神经网络的带动量项的异步梯度算法的收敛性，给出了算法的单调性...
- 喻昕唐利霞于琰
- 关键词：RIDGE动量项
- Pi-sigma神经网络的乘子法随机单点在线梯度算法被引量：3
- 2011年
- 在利用梯度算法训练Pi-sigma神经网络时,存在因权值选取过小导致收敛速度过慢的问题,而采用一般罚函数法虽然可以克服这个缺点,但要求罚因子必须趋近于∞且惩罚项绝对值不可微,从而导致数值求解困难。为克服以上缺点,提出了一种基于乘子法的随机单点在线梯度算法。利用最优化理论方法,将有约束问题转换为无约束问题,利用乘子法来求解网络误差函数。从理论上分析了算法的收敛速度和稳定性,仿真实验结果验证了算法的有效性。
- 喻昕邓飞唐利霞
- 关键词：PI-SIGMA神经网络梯度算法乘子法收敛速度稳定性
- 两类神经网络的学习算法收敛性研究
- 前馈神经网络是目前应用最广泛的一种神经网络模型,模糊感知器和Ridge Polynomial神经网络就是这样的两类前馈神经网络。本文对这两类神经网络的学习算法进行研究,分析各自算法的收敛性问题。主要工作如下：文中将神经网...
- 唐利霞
- 关键词：动量项模糊感知器
- 文献传递
