设为首页|加为收藏|English

学术报告
来源:  时间:2021-12-20   《打印》
高效神经网络架构搜索技术
报告人:胡瑜(中国科学院计算技术研究所研究员)
报告时间:2021年12月22日周三14:30-15:30   
报告地点:中国科学院数学与系统科学研究院南楼N218
摘要:
神经网络架构搜索(Neural Architecture Search,NAS)技术通过设计搜索空间、搜索策略和评估机制,自动地找到符合计算平台资源约束和适合任务问题的神经网络结构,不仅能够降低手工设计神经网络的成本,并且在物体分类、物体检测、语义分割和自然语言处理等任务上,已取得了超越手工设计神经网络的性能。近年来,在学术界和工业界的大力推动下,神经网络架构搜索技术得到了快速发展。本报告介绍了我们在NAS搜索策略和评估机制方面开展的两项工作:(1)提出动态可微分空间-架构搜索方法(ACML‘2021),通过在搜索过程中平衡探索与利用,获得性能更高的目标网络;(2)提出基于Transformer的性能预测方法(CVPR’2021 NAS 竞赛第二名,NeurIPS’2021),通过直接预测目标网络性能,降低评估开销。未来我们将继续探索神经网络架构搜索的轻量化技术。
个人简介:
胡瑜,中国科学院计算技术研究所研究员、博士生导师。分别于1993年、1999年和2003年在电子科技大学(UESTC)获得工学学士、硕士和博士学位。2006年获日本学术振兴会Center of Excellence基金资助和香港中文大学Sino British Fellowship Trust资助,先后短期访问日本奈良先端科学技术大学院大学和香港中文大学。近年来主要围绕自动驾驶感知与决策、神经网络架构搜索开展研究。曾获得2015年度国家科技进步奖二等奖、2014年北京市科学技术奖一等奖、2013年度中国科学院朱李月华优秀教师奖、2009年度中国科学院卢嘉锡青年人才奖和2007年度北京市科技新星等多项奖励。在NeurIPS、CVPR、ICRA、IROS、DAC、FPGA、FPL、RAL、Neurocomputing、TVLSI、TCAD等深度学习、机器人和电路领域的知名国际学术会议和学术刊物上合作发表学术论文百余篇,部分论文被Springer和Morgan Kaufmann出版的多部国外专著引用和介绍。个人网页:https://meridiancas.github.io

 
附件
相关文档