【添翼思维】图卷积网络、耦合振荡器锁相问题、准算术图

当年在匹兹堡大学师从Bard Ermentrout教授攻读博士学位时，研究链和阵列的耦合振荡器锁相问题（ phase-lockingin chains and arrays of coupled oscillators ）。博士毕业后，我离开了学术界，在企业界从事软件开发和算法研究。出于对数学的痴迷，业余时间继续研究图结构的耦合振荡器锁相问题（phase-locking in graphs of coupled oscillators）， 这些图包括二叉树、星状树、双星树（binary trees、starlike trees、double starlike trees）和其它各种各样的图。

前几年，一次在硅谷周边的黑山岭爬山过程中突获灵感，将算术序列（arithmetic sequence）的一个简单推论作为其等价定义，从而将算术序列的概念从序列拓广到阵列，从而定义了算术阵列。并进一步定义了算术图，从而创建了算术图理论（The theory of arithmetic graphs）。算术图是一个顶点赋值图，图上的每一个结点的值是其邻点值的平均。我研究了链、阵列以及一般的连通图，发现了有趣的信息扩散现象。之后，我引入严格单调增加函数把平均值改为准平均值，从而定义了准算术图，丰富了算术图理论。

不久之后，我发现准算术图跟图结构的耦合振荡器锁相问题之间存在某种统一关系，它们在结点的信息传播上有类似性，而且可以从数学上证明这些观察到的结论。我从不同的数学领域，得到类似的现象，感觉很奇妙。

最近，我在研发工艺设计软件CAPP的过程中建立了D-M图理论，为工艺设计奠定了理论基础。我发现人工智能领域有一种神经网络模型叫图神经网络（GNN），这些网络包括chains ， trees和一般的graphs。为了设计工艺自动生成器，我在研究图神经网络，以便和D-M图相结合，结果发现图神经网络的一种，图卷积网络，其在结点之间的信息传播方式上跟算术图以及耦合振荡器图有相似之处。三者的相似之处可以总结如下：

·      图卷积网络的消息传递、准算术图的顶点值扩散以及耦合振荡器图的相位波之间存在相似性；

·      图卷积相当于准算术图的非线性邻点均值和耦合振荡器图的邻点相位调整；

·      图卷积的下一层顶点值以及准算术图顶点值解的迭代过程类似于图结构耦合振荡器动力系统稳定解渐近收敛过程的离散化序列。

以上几点认识让我很兴奋，我相信它们有重要的理论价值和应用价值：

       理论价值   

    o   之前，我已经找到并证明了准算术图跟图结构耦合振荡器锁相问题之间的深度关联。现在更想建立一个理论框架将这三个不同的领域统一在一起；

    o   图结构耦合振荡器锁相问题研究过程中发现的多解问题也有利于理解和解释图卷积网络算法中可能出现的算法发散。

       应用价值   

    o   将图结构耦合振荡器锁相问题以及准算术图的一些观察和理论结果指导图卷积网络的应用设计以得到效率更高的图卷积网络。譬如用图结构耦合振荡器锁相理论指导权重函数的设计，用算术图理论指导图卷积网络的设计；

o   以此设计的图卷积网络具有更好的解释性和可控性；

o   将图结构耦合振荡器锁相问题研究过程中发现的分岔问题应用于图卷积网络的设计以避免图卷积网络学习过程的混沌问题。