沈阳自动化所在深度学习泛化能力研究上取得重要进展

发布时间:2020-11-26

  近日,依托于中国科学院沈阳自动化研究所机器人学国家重点实验室在深度学习泛化能力研究上取得了重要进展。以韩志研究员为第一作者、博士生余思泉为第二作者的最新研究成果Depth selection for deep ReLU nets in feature extraction and generalization近日发表于国际人工智能与模式识别模式领域顶级期刊IEEE Trans. on Pattern Analysis and Machine  Intelligence

  深度学习是近年受到广泛关注的研究领域,在目前人工智能与模式识别相关问题解决上表现出优越的性能。但随着求解问题复杂度的不断提升,网络深度也在不断加深。目前,该领域主要挑战之一是挖掘网络深度和求解问题复杂度之间的关系,明确网络深度及其泛化能力。针对该问题,韩志研究员等人联合西安交通大学林绍波教授、香港城市大学周定轩教授开展合作研究,通过在特征提取上深度-参数的平衡选择,给出了特征与网络深度之间的相互适应性,证明了经典经验风险极小化能够使得深度网络达到学习任务最优泛化性能的结论。

  机器人学国家重点实验室机器人视觉研究组长期专注机器人视觉、人工智能与模式识别等方向的研究,在深度学习、机器人视觉复杂光照/天气处理、机器人视觉表达、低秩矩阵/张量建模等方向取得了一系列创新性成果,在计算机视觉与模式识别领域国际知名期刊及顶级会议上发表了成系列的论文,IEEE Trans. on Image Processing,IEEE Trans. on Neural Networks and Learning Systems,IEEE Trans. on Multimedia,Pattern Recognition,IEEE CVPR,ICCV,AAAI等。相关理论成果在一些国家重大工程项目中得到成功应用。

  该项研究得到了国家重点研发计划,国家自然科学基金创新群体项目、重点项目,中国科学院青年创新促进会等项目资助以及机器人学国家重点实验室的大力支持。(机器人学研究室)


附件下载: