神经网络中的概念涌现与基于博弈交互的解释性理论体系

Tencent:

Link: https://meeting.tencent.com/dm/6cXSh0VUa4oV

ID:    973-931-929

摘要：

深度神经网络的可解释性近年来受到大家越来越多的关注，相关技术流派也呈百家争鸣的状态。但是目前可解释性领域中大部分可解释性算法往往侧重于工程性的功能实现，一些核心的基础的问题并没有得到建模。比如，神经网络中的概念涌现的问题尚未得到证明，决定神经网络鲁棒性和泛化性的第一性原理因素尚不清晰。对这些基础的建模，有助于提升可解释性算法的严谨性，为未来深度学习发展提供新的可能性。因此，在本次演讲中，嘉宾将介绍其团队近年来所提出的可解释性博弈交互理论体系中的众多研究，包括如何定义并量化神经网络中的概念涌现现象，如何在博弈交互的理论框架下统一解释神经网络的归因权重算法，如何在符号化概念层面解释神经网络的对抗鲁棒性和神经网络的泛化能力，如何解释视觉神经网络所建模的原型特征。

主讲人简介：

张拳石，上海交通大学电院计算机科学与工程系长聘教轨副教授，博士生导师，入选国家级海外高层次人才引进计划，获ACM China新星奖。他于2014年获得日本东京大学博士学位，于2014-2018年在加州大学洛杉矶分校（UCLA）从事博士后研究，主要研究方向包括机器学习和计算机视觉。其研究工作主要发表在计算机视觉、人工智能、机器学习等不同领域的顶级期刊和会议上（包括IEEE T-PAMI、ICML、ICLR、CVPR、ICCV、AAAI、KDD、ICRA等）。近年来，张拳石在神经网络可解释性方向取得了多项具有国际影响力的创新性成果。张拳石承担了ICPR 2020的领域主席，CCF-A类会议IJCAI 2020和IJCAI 2021的可解释性方向的Tutorial，并先后担任了AAAI 2019, CVPR 2019, ICML 2021大会可解释性方向的分论坛主席。

Dr. Quanshi Zhang is an associate professor at Shanghai Jiao Tong University, China. He received the Ph.D. degree from the University of Tokyo in 2014. From 2014 to 2018, he was a post-doctoral researcher at the University of California, Los Angeles. His research interests are mainly machine learning and computer vision. In particular, he has made influential research in explainable AI (XAI) and received the ACM China Rising Star Award. He was the co-chairs of the workshops towards XAI in ICML 2021, AAAI 2019, and CVPR 2019. We is the speaker of the tutorials on XAI at IJCAI 2020 and IJCAI 2021.