国家教育部博士点基金(20020004020)
- 作品数：13 被引量：87H指数：5
- 相关作者：罗四维刘蕴辉李爱军黄华黄雅平更多>>
- 相关机构：北京交通大学清华大学更多>>
- 发文基金：国家教育部博士点基金国家自然科学基金更多>>
- 相关领域：自动化与计算机技术电子电信经济管理更多>>
- 模拟视觉系统的稀疏编码神经网络模型
- 2003年
- 神经生物学研究表明,视感知系统V1层神经元的感受野对刺激图像采取稀疏表示的策略.本文模拟视感知系统对视觉信息的处理提出了稀疏编码的神经网络模型.该模型用快速ICA算法得到的特征基模拟感受野,反馈网络的输出模拟简单细胞的响应.对自然图像的编码实验说明该模型在生物学上的合理性和计算上的可行性.
- 邹琪
- 关键词：独立分量分析
- 基于决策树的神经网络被引量：17
- 2005年
- 传统人工神经网络模型采用试探的方法确定合适的网络结构,并随机地初始化参数值,导致神经网络训练效率低、结果不稳定.熵网络是一种建立在决策树之上的3层前馈网络,在熵网络基础上,提出了基于决策树的神经网络设计方法(DTBNN).DTBNN中提供了对神经网络参数的初始值合理设置的方法,并提出了由决策树确定的只是熵网络的初始结构,在实际的网络构造中需要根据实际应用添加神经元和连接权以提高网络的性能.理论分析和实验结果表明了这种方法的合理性.
- 李爱军罗四维黄华刘蕴辉
- 关键词：人工神经网络决策树
- 基于凸规划观点的神经网络学习
- 2004年
- 人工神经网络最重要的特征就是网络的学习能力,通过对神经网络内部权值的调整,学习外部环境结构的特征和信息的表示.从信息几何的角度,对神经网络的学习过程进行了几何描述,并将神经网络的学习问题转化为,最小化外部环境表示的真实分布与网络模型表示的逼近分布之间的"距离",并证明了对于可编码成指数簇流形的神经网络是凸规划问题.为神经网络学习的研究提出了一个新的思路,也为在高维非线性空间中解决网络学习问题的有效性,从信息几何的角度给出了一种解释.
- 刘蕴辉罗四维李爱军俞翰斌
- 关键词：神经网络信息几何
- 基于视觉系统“What”和“Where”通路的图像显著区域检测被引量：4
- 2006年
- 受神经解剖学和心理学中有关视觉系统研究成果的启发,提出一个新的基于"what"和"where"通路的图像显著区域检测模型.该模型包括显著区发现和显著区转移这两个感知过程,首先通过度量统计特征显著性,找到第一个显著区域和潜在目标,然后计算当前潜在目标的吸引力以确定下一个显著区域及相应的潜在目标,以此循环直到得到整幅图像的信息,该方法应用于多幅自然图像的实验,结果证实该模型检测效果较好,并具有一定的抗噪能力.
- 田媚罗四维齐英剑廖灵芝
- 关键词：视觉系统
- 一种基于广义KL距离和几何曲率的模型选择准则被引量：3
- 2005年
- 模型选择的目标就是识别产生给定数据的模型，通常模型的好坏由模型的泛化能力来度量，而泛化能力包含模型对给定数据的拟合度和模型自身复杂度两个方面，本文从信息几何的观点使用定义在流形上的广义KL距离来度量模型的拟合度；另一方面从微分几何的观点用曲率的概念来度量模型的内在复杂度；因此，拟合度和复杂度的表示都具有在参数变换下保持不变的特点，通过理论分析，我们证明了用于表示模型预测能力的未来残差与模型固有曲率的关系，由此提出一种新的基于广义KL距离和曲率的模型选择准则KILCIC．该准则不仅考虑了样本大小、参数个数和函数形式等影响复杂度的因素，而且具有非常清晰直观的几何意义，实验结果表明该方法的有效性．
- 杨坚罗四维刘蕴辉
- ICA的共轭下降法被引量：4
- 2003年
- 独立分量分析(ICA)作为有效的盲源分离技术(BSS)是信号处理领域的热点.本文在分析现有的ICA算法的基础上提出了以最小互信息为准则函数的ICA的共轭下降算法,并将该算法与传统的算法在计算效率和收敛性方面进行了比较,该算法的迭代次数由传统算法的约2000次减少至不超过300次.适当地选取对比函数可实现全局收敛,并简要分析了对比函数的选取准则.模拟实验证明该算法收敛速度快,而且对初始点不敏感,在健壮性方面具有较好的性能.
- 邹琪罗四维
- 关键词：信号处理独立分量分析共轭梯度算法全局收敛性
- 人工神经网络知识增殖性分析被引量：5
- 2005年
- 人工神经网络的知识增殖能力是该领域的热点和难点问题 ,具有重要的理论和实践意义 对人工神经网络的知识增殖性问题进行了较深入的探讨 ,从网络推广能力的角度分析了具有知识增殖能力的神经网络系统的结构设计问题 ,指出将多个网络个体结合在一起是实现人工神经网络增殖学习的重要方法 ,网络的自治能力在此具有重要的意义 利用具有自治能力的神经网络构建的网络群体中 ,网络个体无需改变而整体具有增殖学习能力 。
- 黄华罗四维刘蕴辉李爱军
- 关键词：人工神经网络
- 退火期望最大化算法A-EM被引量：3
- 2006年
- 使用EM算法训练随机多层前馈网具有低开销、易于实现和全局收敛的特点,在EM算法的基础上提出了一种训练随机多层前馈网络的新方法AEM.AEM算法利用热力学系统的最大熵原理计算网络中隐变量的条件概率,借鉴退火过程,引入温度参数,减小了初始参数值对最终结果的影响.该算法既保持了原EM算法的优点,又有利于训练结果收敛到全局极小.从数学角度证明了该算法的收敛性,同时,实验也证明了该算法的正确性和有效性.
- 齐英剑罗四维黄雅平李爱军刘蕴辉
- 关键词：期望最大化算法最大熵退火
- 信息理论框架下的神经网络构建被引量：6
- 2005年
- 神经网络模型的构建方法是神经网络研究的重点和难点,传统的构建方法建立在实验和重复学习的基础上,本文提出了一种信息理论框架下的神经网络构建方法基于熵的神经网络(EBNN).EBNN借助于前馈网络与决策树的等价性,采用熵做为神经网络构造的准则,利用决策树的构造思想和方法,建立了一种系统的神经网络构造方法.实验表明EBNN方法学习速度比传统BP网络快,但又不降低神经网络性能.
- 李爱军罗四维刘蕴辉黄华
- 关键词：网络构建前馈网络网络构造BP网络网络性能等价性
- 模拟视觉系统的稀疏编码神经网络模型
- 神经生物学研究表明,视感知系统V1层神经元的感受野对刺激图像采取稀疏表示的策略。本文模拟视感知系统对视觉信息的处理提出了稀疏编码的神经网络模型。该模型用快速ICA算法得到的特征基模拟感受野,反馈网络的输出模拟简单细胞的响...
- 邹琪罗四维
- 关键词：独立分量分析
- 文献传递
