鲁淑霞
- 作品数:43 被引量:49H指数:4
- 供职机构:河北大学更多>>
- 发文基金:河北省自然科学基金国家自然科学基金河北省科技计划项目更多>>
- 相关领域:自动化与计算机技术理学一般工业技术医药卫生更多>>
- 基于信息熵的神经网络的敏感性分析
- 李纯果李海峰邢红杰鲁淑霞
- 课题应用高速数字图像处理技术,依托FPGA+DSP的目标检测平台,针对巡检船在沟渠或河道中航行线路上的障碍物,诸如:水面漂浮物、灯杆和桥墩等水面目标,采用优化的投票表决算法并提出了针对局部最强特征值提取的改进型GOA算法...
- 关键词:
- 关键词:网络服务器
- 带有方差减小的加权零阶随机梯度下降算法被引量:6
- 2019年
- 随机梯度下降(stochastic gradient descent,SGD)算法是机器学习问题中的高效求解方法之一.但是,对于非平衡数据,传统的随机梯度下降算法,在训练时多数类点被抽到的概率远大于少数类点,易导致计算不平衡;对于目标函数不可导或不易求导的问题,计算代价太大或无法进行计算;在每次迭代中利用单个样本梯度近似代替全梯度,这必然会产生方差,严重影响算法的分类性能.针对上述问题,提出了带有方差减小的加权零阶随机梯度下降算法,考虑了数据的间隔分布情况,在目标函数中引入了间隔均值项,并对多数类样例赋予了较小的权值,对少数类样例赋予较大的权值.在对优化问题的求解中,采用零阶优化的方法对梯度进行估计,并且引入了方差减小策略.在一些非平衡数据集上的实验验证了所提算法的有效性,并有效解决了上述问题.
- 鲁淑霞张罗幻蔡莲香孙丽丽
- 关键词:非平衡数据支持向量机
- 基于零阶减小方差方法的鲁棒支持向量机被引量:1
- 2019年
- 采用传统的支持向量机方法对含有噪声的数据进行分类时会产生较大的损失,使得分类超平面严重偏离最优超平面,从而导致分类性能较差。为了解决此问题,文中提出了一种鲁棒的支持向量机(Robust Support Vector Machine,RSVM)方法,该方法给出了一种正弦平方形式的损失函数,根据正弦函数的特点,即使对于噪声数据,其损失函数的值也会被限制在[0,1]区间,从而提高了支持向量机的抗噪性。另外,在求解支持向量机时,传统的随机梯度下降方法在每次迭代中利用单个样本梯度近似代替全梯度,这样必然会产生方差,而随着迭代次数的增加,方差也不断累积,从而严重影响算法的分类性能。为了减小方差的影响,引入零阶减小方差的随机梯度下降(Zeroth Order-Stochastic Variance Reduced Gradient,ZO-SVRG)算法。该算法使用坐标梯度估计方法近似代替梯度,通过在每轮迭代中引入梯度修正项来减小方差的影响;同时,采取加权平均的输出形式进行内外循环的输出,加快了优化问题的收敛速度。实验结果表明,提出的基于零阶减小方差方法的鲁棒支持向量机算法对噪声数据具有更好的鲁棒性,且有效降低了方差的影响;为了进一步提高算法的性能,对实验中主要参数λ,k对算法精度的影响进行了分析。对于线性和非线性两种情况,当其参数对(λ,k)分别满足(λ=1,k=5)和(λ=10,k=3)时,可以达到各自的最高精度。
- 鲁淑霞蔡莲香张罗幻
- 关键词:支持向量机损失函数噪声
- 基于最优间隔的AdaBoost_(v)算法的非平衡数据分类被引量:3
- 2021年
- 为了解决非平衡数据分类问题,提出了一种基于最优间隔的AdaBoost v算法。该算法采用改进的SVM作为基分类器,在SVM的优化模型中引入间隔均值项,并根据数据非平衡比对间隔均值项和损失函数项进行加权;采用带有方差减小的随机梯度方法(Stochastic Variance Reduced Gradient,SVRG)对优化模型进行求解,以加快收敛速度。所提基于最优间隔的AdaBoost v算法在样本权重更新公式中引入了一种新的自适应代价敏感函数,赋予少数类样本、误分类的少数类样本以及靠近决策边界的少数类样本更高的代价值;另外,通过结合新的权重公式以及引入给定精度参数v下的最优间隔的估计值,推导出新的基分类器权重策略,进一步提高了算法的分类精度。对比实验表明,在线性和非线性情况下,所提基于最优间隔的AdaBoost v算法在非平衡数据集上的分类精度优于其他算法,且能获得更大的最小间隔。
- 鲁淑霞张振莲
- 关键词:非平衡数据
- 基于行列式点过程的变分拉普拉斯自编码器被引量:1
- 2022年
- 变分自编码器(Variational Autoencoders,VAE)是一类重要的学习概率潜在变量的生成模型,然而VAE对复杂模型的表现力较差,生成的图像往往比较模糊.为了解决VAE生成图像模糊的问题,提出一种基于行列式点过程的变分拉普拉斯自编码器(Variational Laplace Autoencoders-Determinantal Point Process,VLAE-DPP)模型,将行列式点过程方法引入变分拉普拉斯自编码器模型,在原始目标函数的基础上添加一项无监督惩罚损失,以此来提高生成图像的质量.VLAE-DPP模型利用行列式点过程来捕获一个与真实数据类似的多样性,然后通过从编码器中提取特征来学习核.最后,训练解码器优化核的伪、实、特征值和特征向量之间的损失,以鼓励解码器模拟真实数据的多样性,从而生成高质量的图像.在Fashion-MNIST,SVHN,CIFAR10数据集上的实验结果表明,VLAE-DPP模型能提高生成图像的质量.
- 敦瑞静鲁淑霞鲁淑霞翟俊海
- 非线性对流-扩散方程组的第三边值问题的特征-差分解法
- 1997年
- 讨论了非线性对流-扩散方程组的第三边值问题的特征一差分解法,给出了最佳L^2模误差估计。
- 鲁淑霞田助华
- 关键词:第三边值问题
- 基于支持向量机的多光谱数据分类
- 结合国家自然科学基金和河北省自然科学基金项目,研究了基于支持向量机的多光谱数据分类问题。目前遥感信息的提取和利用水平大大滞后于遥感技术的发展,因此研究新的理论和方法提高遥感信息的提取水平具有十分重要的意义。在多光谱数据分...
- 鲁淑霞
- 关键词:支持向量机多光谱数据模糊隶属函数泛化能力
- 文献传递
- 基于一类支持向量机的样本约简方法
- 支持向量机在许多实际应用中由于训练样本集规模较大且具有类内混杂孤立点数据,导致了学习速度慢,存储需求量大等问题。针对这些问题提出了一种新的去样本点的方法。该方法首先基于一类支持向量机(OCSVM)方法,寻找一个超平面,保...
- 鲁淑霞孟洁曹贵恩
- 关键词:异常点欧式距离约简方法
- 文献传递
- 添加Universum数据的最小二乘投影双支持向量机被引量:1
- 2016年
- 通过添加Universum数据,引入了与分类样本无关的样本,并借此引入了先验域信息,构建了添加Universum数据的最小二乘投影双支持向量机(ULSPTSVM).此外,还将方法扩展到递归学习方法,用于进一步提高ULSPTSVM的分类性能.实验表明,ULSPTSVM方法可以直接减少带有Universum数据的双支持向量机(USVM)方法的训练时间,而且在多数情况下ULSPTSVM方法的测试精度优于最小二乘投影双支持向量机(LSPTSVM)方法的测试精度.
- 鲁淑霞佟乐朱晨旭
- 关键词:支持向量机
- 代价敏感惩罚AdaBoost算法的非平衡数据分类被引量:4
- 2023年
- 针对非平衡数据分类问题,提出了一种基于代价敏感的惩罚AdaBoost算法。在惩罚Adaboost算法中,引入一种新的自适应代价敏感函数,赋予少数类样本及分错的少数类样本更高的代价值,并通过引入惩罚机制增大了样本的平均间隔。选择加权支持向量机(Support vector machine,SVM)优化模型作为基分类器,采用带有方差减小的随机梯度下降方法(Stochastic variance reduced gradient,SVRG)对优化模型进行求解。对比实验表明,本文提出的算法不但在几何均值(G-mean)和ROC曲线下的面积(Area under ROC curve,AUC)上明显优于其他算法,而且获得了较大的平均间隔,显示了本文算法在处理非平衡数据分类问题上的有效性。
- 鲁淑霞张振莲翟俊海
- 关键词:非平衡数据