Machine Learning and Artificial Intelligence Seminar——从图双连通性的角度重新思考图神经网络的表达能力

Time: 2023-05-26 Views: Published By: CMLR

Speaker(s): Bohang Zhang (Peking University)

Time: 16:00-17:00 May 26, 2023

Venue: Room 1560, Sciences Building No. 1(理科一号楼1560室)

报告摘要:

如何设计具有强大表达能力的图神经网络是图机器学习领域的一个核心话题。近年来,虽然已经提出了大量的网络结构,但人们尚不清楚这些网络结构能够系统地获得怎样的表达能力。这次talk我们将从图双连通性的新颖角度来系统探究这一领域的基本问题。图双连通性是图论中的核心概念,它们在各类图学习中具有重要意义。然而,我们的结果表明,绝大多数主流的图神经网络不具有在图双连通性方面的任何表达能力。我们进而提出了一种系统性的方法,通过引用距离信息来可证明地获得对各类图双连通性问题的表达能力。实践中,该方法可以被基于Transformer的网络架构高效的实现,并取得了比先前方法更好的实验结果。


报告人简介:



5a55d59b875847c2a42b4fb2e24dd284.png



张博航是北京大学博士四年级学生,导师是王立威教授。张博航在博士期间的研究方向是机器学习,主要研究兴趣聚焦神经网络表达能力,并从表达能力的角度探索鲁棒性、图神经网络、大模型等相关领域的基础性问题。张博航在博士期间以(共同)第一作者身份在ICLR, ICML, NeurIPS三大机器学习国际顶会上发表8篇论文并多次获得口头报告,其中ICLR 2023的论文获得杰出论文奖 (Outstanding Paper Award)。