(通讯员高原) 西安电子科技大学协同智能系统教育部重点实验室公茂果、高原老师在神经网络领域权威期刊IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI)上发表题为“Heterogeneous Multi-party Learning with Data-driven Network Sampling”的学术论文。该论文针对异构网络问题，提出了一种新颖的多方协同学习解决方案。

在多方学习中，如何为拥有非独立同分布数据的参与者建立个性化的异构模型是一直以来的研究热点和难点。受神经网络dropout思想的启发，课题组提出一种数据驱动的异构网络采样方法，允许客户端根据其本地数据分布从全局超网中采样得到最优本地子网架构，从而平衡不同数据分布间的协同自适应，该方法显著在提高超网和子网的泛化能力和收敛速度的同时，降低了客户端在通信带宽和算力受限下参与多方学习的门槛，为数据异质和模型异构场景下的多方协同学习提供了新的解决方案。

本文针对超网结构和子网结构进行了分别的分析，分别对子网的收敛性和超网的收敛性进行证明。证明结果可得，全局超网和本地子网在反向传播梯度并不连续的情况下均可收敛。

IEEE Transactions on Pattern Analysis and Machine Intelligence是计算机科学和工程技术领域顶级期刊（IF 24.314，中科院一区，Top期刊）。该期刊致力于发表关于计算机视觉和图像理解的所有传统领域、模式分析和识别的所有传统方面以及机器智能的选定领域的文章，特别强调用于模式分析的机器学习。

论文链接：https://doi.org/10.1109/TMM.2023.3284591