新闻动态

当前位置: 首页 - 新闻动态 - 科研进展 -正文

(通讯员吕旷达)西安电子科技大学协同智能系统教育部重点实验室吕旷达硕士、李豪副教授在演化计算领域权威期刊IEEE Transactions on Evolutionary Computation (TEVC)上发表题为“Surrogate-Assisted Evolutionary Multiobjective Neural Architecture Search based on Transfer Stacking and Knowledge Distillation”的学术论文。该论文面向神经网络架构搜索中计算开销大、现存知识利用不充分的问题,提出了一种在特定计算开销下兼容大规模源问题知识迁移的框架。

MONAS(Multiobjective Neural Architecture Search,多目标神经网络架构搜索)受到学者的广泛关注,近年来陆续有新的搜索空间和算法提出。MONAS往往涉及昂贵的架构评价过程,而在对当前搜索问题认识受限的情况下开支下,在构建可靠的代理模型并减少架构评价的训练开支的同时确保算法的良好搜索能力存在困难。在优化中,知识迁移旨在复用先前实践中的知识协助解决当前问题的算法更好地收敛。本研究针对上述难题,提出了一种结合元回归的代理模型迁移堆叠与非支配前沿面架构权重集成知识蒸馏的知识迁移策略。同时,针对大规模迁移中的知识冗余困境,本研究提出了一种迭代选择源问题的方法,从而更好地避免负迁移现象。

从大量已解决MONAS问题中筛选与目标问题相关的源问题,在已解决相关问题的算法中构建的代理模型,并从位于所搜索的非支配前沿面架构中提炼知识辅助评价,可以在受限计算开支下构建具有较强预测性能的代理模型,同时使基于代理指标训练的架构评价更准确。根据理论分析与针对不同的源问题和目标问题组合进行的大量测试可知,在受限计算开支下,本研究所提出的框架的搜索性能具有竞争力。

IEEE Transactions on Evolutionary Computation是演化计算顶级期刊之一、中科院SCI期刊大类一区期刊。

论文链接:https://ieeexplore.ieee.org/document/10263998

上一篇:实验室胡祝平博士、公茂果教授在IEEE TGRS发表论文

下一篇:实验室武越副教授、刘家铭硕士在IEEE TMM发表论文

Baidu
map