近日,在学院领导的大力支持下,我院梁荣梅老师与重庆大学吴小飞博士、张志民教授合作的论文《Linearized Alternating Direction Method of Multipliers for Elastic-net Support Vector Machines》被SCI一区国际顶级期刊《Pattern Recognition》(IF=8.0)收录,梁荣梅老师为该论文第一作者,重庆对外经贸学院为第一通讯单位。此论文的发表是学院大力实施科研工作鼓励措施的又一重要成果,促进了学院良好科研氛围的形成,助力了高水平专业学科的建设。
《Pattern Recognition》被认为是国际模式识别领域的顶级期刊之一,创刊于1968年。2023年该期刊的影响因子为8.0,属于中科院计算机科学一区的顶级期刊。此外,国家一级学会,中国计算机学会(CCF)将其列为人工智能领域的B类推荐期刊,中国自动化学会(CAA)则将其列为A类推荐期刊。中国计算机学会(CCF)评价该期刊为“国际重要期刊,具有重要的国际学术影响力”。
论文简介:
在许多高维数据集中,通常会出现特征相关性的现象。弹性网正则化在支持向量机(SVM)中被广泛使用,因为它可以自动进行特征选择,并鼓励高度相关的特征一起被选择或移除。最近,一些有效的算法已被提出来解决具有不同凸损失函数的弹性网SVM问题,如hinge损失、squared hinge损失、huberized hinge损失、pinball损失和huberized pinball损失。在本文中,作者提出了一个线性化交替方向乘子法(LADMM)算法来解决上述弹性网SVM问题。此外,本文提出的算法还可以用于解决一些新的弹性网SVM问题,如弹性网最小二乘SVM。与一些现有算法相比,本文提出的算法在计算成本和准确性方面具有可比或更好的性能。在宽松的条件下,作者证明了算法的收敛性,并推导出了收敛速度。此外,对合成和真实数据集进行的数值实验验证了所提出算法的可行性和有效性。
In many high-dimensional datasets, the phenomenon that features are relevant often occurs. Elastic-net regularization is widely used in support vector machines (SVMs) because it can automatically perform feature selection and encourage highly correlated features to be selected or removed together. Recently, some effective algorithms have been proposed to solve the elastic-net SVMs with different convex loss functions, such as hinge, squared hinge, huberized hinge, pinball and huberized pinball. In this paper, we develop a linearized alternating direction method of multipliers (LADMM) algorithm to solve above elastic-net SVMs. In addition, our algorithm can be applied to solve some new elastic-net SVMs such as elastic-net least squares SVM. Compared with some existing algorithms, our algorithm has comparable or better performances in terms of computational cost and accuracy. Under mild conditions, we prove the convergence and derive convergence rate of our algorithm. Furthermore, numerical experiments on synthetic and real datasets demonstrate the feasibility and validity of the proposed algorithm.
作者简介:
梁荣梅,2020年获得重庆大学统计学硕士学位。目前就职于重庆对外经贸学院,大数据与智能工程学院人工智能专业。主要从事支持向量机(SVM)、聚类分析和高维回归研究,主研了重庆市教委科学技术研究计划项目,部分研究成果被国际学术期刊《Statistical Papers》和《Pattern Recognition》收录。
论文链接:
Liang, R. M., Wu, X. F. and Zhang, Z. M. (2023) Linearized Alternating Direction Method of Multipliers for Elastic-net Support Vector Machines[J]. Pattern Recognition.
https://doi.org/10.1016/j.patcog.2023.110134