国家自然科学基金(61273296)
- 作品数:7 被引量:18H指数:2
- 相关作者:陶卿周柏朱小辉储德军姜纪远更多>>
- 相关机构:中国人民解放军陆军军官学院合肥工业大学中国人民解放军理工大学更多>>
- 发文基金:国家自然科学基金安徽省自然科学基金江苏省自然科学基金更多>>
- 相关领域:自动化与计算机技术理学更多>>
- 一种具有最优收敛速度的正则化境面下降算法被引量:1
- 2014年
- Pegasos算法是求解大规模支持向量机问题的有效方法,在随机梯度下降过程中植入多阶段循环步骤,能使该算法得到最优的收敛速度O(1/T)。COMID算法是由镜面下降算法推广得到的正则化随机形式,可保证正则化项的结构,但对于强凸的优化问题,该算法的收敛速度仅为O(logT/T)。为此,在COMID算法中引入多阶段循环步骤,提出一种求解L1+L2混合正则化项问题的最优正则化镜面下降算法,证明其具有最优的收敛速度O(1/T),以及与COMID算法相同的稀疏性。在大规模数据库上的实验结果验证了理论分析的正确性和所提算法的有效性。
- 王惊晓高乾坤汪群山
- 关键词:稀疏性收敛速度
- 求解非光滑强凸优化问题的减小方差加权随机算法
- 2016年
- 在光滑问题随机方法中使用减小方差策略,能够有效改善算法的收敛效果.文中同时引用加权平均和减小方差的思想,求解"L1+L2+Hinge"非光滑强凸优化问题,得到减小方差加权随机算法(α-HRMDVR-W).在每步迭代过程中使用减小方差策略,并且以加权平均的方式输出,证明其具有最优收敛速率,并且该收敛速率不依赖样本数目.与已有减小方差方法相比,α-HRMDVR-W每次迭代中只使用部分样本代替全部样本修正梯度.实验表明α-HRMDVR-W在减小方差的同时也节省CPU时间.
- 朱小辉陶卿
- 一种利用Screening加速技巧的Lasso算法
- 2018年
- Lasso(Least absolute shrinkage and selection operator)是目前广为应用的一种稀疏特征选择算法。经典的Lasso算法通过对高维数据进行特征选择一定程度上降低了计算开销,然而,求解Lasso问题目前仍面临诸多困难与挑战,例如当特征维数和样本数量非常大时,甚至无法将数据矩阵加载到主存储器中。为了应对这一挑战,Screening加速技巧成为近年来研究的热点。Screening可以在问题优化求解之前将稀疏优化结果中系数必然为0的无效特征筛选出来并剔除,从而极大地降低数据维度,在不损失问题求解精度的前提下,加速稀疏优化问题的求解速度。首先推导了Lasso的对偶问题,根据对偶问题的特性得出基于对偶多面投影的Screening加速技巧,最后将Screening加速技巧引入Lasso特征选择算法,并在多个高维数据集上进行实验,通过加速比、识别率以及算法运行时间三个指标验证了Screening加速技巧在Lasso算法上的良好性能。
- 邱俊洋潘志松易磊陶蔚张梁梁
- 关键词:高维数据
- 基于随机步长具有最优瞬时收敛速率的稀疏随机优化算法
- 2015年
- 几乎所有的稀疏随机算法都来源于在线形式,只能获得平均输出方式的收敛速率,对于强凸优化问题无法达到最优的瞬时收敛速率.文中避开在线形式转到随机模式,直接研究随机优化算法.首先在含有L1正则化项的稀疏优化问题中加入L2正则化项,使之具有强凸特性.然后将黑箱优化方法中的随机步长策略引入到当前通用的结构优化算法COMID中,得到基于随机步长的混合正则化镜面下降稀疏随机优化算法.最后通过分析L1正则化问题中软阈值方法的求解特点,证明算法具有最优的瞬时收敛速率.实验表明,文中算法的稀疏性优于COMID.
- 周柏陶卿储德军
- 关键词:稀疏性
- 一种求解强凸优化问题的最优随机算法被引量:11
- 2014年
- 随机梯度下降(SGD)算法是处理大规模数据的有效方法之一.黑箱方法SGD在强凸条件下能达到最优的O(1/T)收敛速率,但对于求解L1+L2正则化学习问题的结构优化算法,如COMID(composite objective mirror descent)仅具有O(lnT/T)的收敛速率.提出一种能够保证稀疏性基于COMID的加权算法,证明了其不仅具有O(1/T)的收敛速率,还具有on-the-fly计算的优点,从而减少了计算代价.实验结果表明了理论分析的正确性和所提算法的有效性.
- 邵言剑陶卿姜纪远周柏
- 关键词:MIRROR
- 一种减小方差求解非光滑问题的随机优化算法被引量:5
- 2015年
- 随机优化算法是求解大规模机器学习问题的高效方法之一.随机学习算法使用随机抽取的单个样本梯度代替全梯度,有效节省了计算量,但却会导致较大的方差.近期的研究结果表明:在光滑损失优化问题中使用减小方差策略,能够有效提高随机梯度算法的收敛速率.考虑求解非光滑损失问题随机优化算法COMID(composite objective mirror descent)的方差减小问题.首先证明了COMID具有方差形式的(O1T1/2+σ2/T1/2)收敛速率,其中,T是迭代步数,σ2是方差.该收敛速率保证了减小方差的有效性,进而在COMID中引入减小方差的策略,得到一种随机优化算法α-MDVR(mirror descent with variance reduction).不同于Prox-SVRG(proximal stochastic variance reduced gradient),α-MDVR收敛速率不依赖于样本数目,每次迭代只使用部分样本来修正梯度.对比实验验证了α-MDVR既减小了方差,又节省了计算时间.
- 朱小辉陶卿邵言剑储德军
- 关键词:非光滑COMPOSITEMIRROR
- 多因素扰动下闭环供应链的契约设计被引量:2
- 2018年
- 文章研究了由制造商、零售商以及第三方回收商组成的闭环供应链系统,考虑由于突发事件所引起的多因素扰动对闭环供应链系统的影响,讨论扰动情形下闭环供应链系统的契约设计问题。研究结果表明,采用改进后的收益共享契约可以协调多因素扰动情形下闭环供应链系统,改进后的收益共享契约具有鲁棒性。
- 陈苏安蔡英杰杨志林
- 关键词:闭环供应链收益共享契约突发事件