四川省科技攻关计划(2008GZ0009)
- 作品数:1 被引量:7H指数:1
- 相关作者:方育柯佘莉孙崇敬周俊临傅彦更多>>
- 相关机构:电子科技大学更多>>
- 发文基金:四川省科技攻关计划国家自然科学基金更多>>
- 相关领域:自动化与计算机技术更多>>
- 基于选择性集成的最大化软间隔算法被引量:7
- 2012年
- 当前,boosting集成学习算法研究主要集中于最大化弱学习器凸组合的间隔或软间隔,该凸组合几乎使用了生成的所有弱学习器,然而这些弱学习器间存在大量的相关性和冗余,增加了训练和分类过程的时空复杂度.针对这一问题,在LPBoost基础上提出了一种选择性boosting集成学习算法,称为SelectedBoost.在每次迭代生成新的弱学习器以后,通过计算新生成的弱学习器与已有弱学习器的相关度和差异度,并结合当前集成的强学习器的准确率来判断是否选择该弱学习器.另外,当前的一系列boosting算法(如AdaBoost,LPBoost,ERLPBoost等),本质上是基于已生成的1个或者多个弱学习器来更新样本权重,但与弱学习器相比,强学习器更能代表当前的决策面.因此,SelectedBoost通过在带约束的间隔最大化问题中引入更加严格的强学习器边界约束条件,使得该算法不仅参考弱学习器边界,同时还参考已生成的强学习器来更新样本权重,进而提高算法的收敛速度.最后,与其他有代表性的集成学习算法进行实验比较,结果表明,该方法在收敛率、分类准确性以及泛化能力等方面均具有比较明显的优势.
- 方育柯傅彦周俊临佘莉孙崇敬
- 关键词:相关度线性规划