写在前面

在经过了《机器学习理论入门-西瓜书》 的学习之后,对机器学习这一整个大的学科建立起了一座“朦胧”的大厦,大部分的概念都还比较抽象,停留在公式推导阶段。经过老师的指导,我对其进行了更深入的学习,也开始逐渐专注于其中的“图机器学习”这一个方向。

比较有难度的是,老师要求学会以后需要进行讲解,因此在一开始选择学习方式时,也是经过了一些深思熟虑。手头上有一本《图机器学习》【美 克劳迪奥.斯塔迈尔】的书,写的十分全面,不仅仅包含了层层递进的理论讲解,还附带详细的代码教程,可惜内容太多,博主想要学完估计要半个学期,这是不符合我现在的进度要求的,而且感觉自己现在太过焦躁,论文也要看,项目还在推进,耐着性子花半个学期的时间来读一本可能对自己没什么太大成果反馈的书,万分困难。看书pass掉了,那么剩下的就是网课了,可惜图机器学习的相关资源比较匮乏,B站能看的只有SC224W(如果你也学图机器学习,那么你一定知道我说的是哪个),毛子味的英语需要就着字幕慢慢看,其实也是蛮难受的,而且因为之后要进行讲解,没有一个完整的配套PPT也是极其不方便的,还要浪费我相当多的时间效果也不一定会好。功夫不负有心人,经过层层筛选,博主在youtube上找到了一位香港的研究生学长讲解的《Machine Learning with Graphs》【周远同】,随便听了两节,如获至宝,深入浅出,把复杂的概念用简单的语言表述出来,让即便是初学者也能快速抓住图机器学习的核心要点。特别是他对算法的解读,不仅详细介绍了算法的工作原理,还展示了如何在实际项目中应用这些算法,这对于正在努力将理论应用于实践的我来说,简直是雪中送炭。(这么优质的课居然才个位数播放量,哎埋没了啊😤)

在为期两周的图机器学习过程中,我收获了相当多的知识。20节的课程每一节都能让先前在西瓜书的学习中稀里糊涂的我醍醐灌顶,还顺便解开了我在Bright论文中的好多疑惑,看完第一节课后当即就决定要把它全看完再看论文😩

因为之后要进行讲解,所以在“图机器学习”的学习过程中,博主没有采取纯文本的笔记,而是选择了配合PPT,在每一页都给出了自己的理解、思维备注如下示例:

所有章节带笔记的PPT文件博主都会放在本文中,读者可自行下载

image-zcss.png3c7850cee3cf3fcf4b9ed71455aa398.png5eb8c0189e055fc1fed390d1a69c623.png45ed7615a8df94a5d60e80a7bd24a02.png

第一章:什么是图

1-Why Graphs_.pptx

介绍了图(Graphs)为什么在机器学习中是重要的,强调了图能有效地描述和分析具有关系或交互的实体。通过实例展示了如何用图来解决问题,解释了现代深度学习模型主要针对网格或序列数据,而对于图数据的复杂性和拓扑结构,需要更通用和适应的神经网络模型。还讨论了图机器学习的应用场景,包括节点级、边缘级、子图级和图级任务,以及如何选择适当的图表示方法

第二章:基于传统特征的ML方法

2-1-Traditional Feature-based Methods_ Node.pptx

2-2. Traditaional Feature-based Methods_ Edge.pptx

2-3. Traditaional Feature-based Methods_ Graph.pptx

介绍了图机器学习领域中的传统特征基方法,包括节点、边和图整体的特征提取和表示学习。2.1专注于节点级别的特征方法,探讨了如何利用节点属性和网络结构信息。2.2转向边的角度,分析了边特征的提取方法及其在链接预测等任务中的应用。2.3扩展到图级别,讨论了如何从整个图的结构中提取有用特征,以及这些方法在图分类和聚类中的应用。这三节共同构建了一个全面的视角,展示了在不同层次上理解和利用图数据的策略及其挑战

第三章:节点嵌入与浅层编码

3-1. Node Embeddings.pptx

3-2. Random Walk Approaches for Node Embeddings.pptx

3-3. Applications and Limitations of Shallow Embeddings.pptx

探讨了节点嵌入和浅层编码在图数据分析中的应用,并特别强调了随机游走方法在节点嵌入学习中的重要性。首先通过介绍节点嵌入的基本理念和目标,强调了节点相似性在嵌入空间的表达。接着讲解了浅层编码的概念和方法,用于生成图中每个节点的向量表示。最后深入讨论了随机游走方法,特别是node2vec的策略,这一方法通过优化节点嵌入来学习随机游走的统计特性,使得相似节点在嵌入空间中彼此接近,从而在图数据分析和特征学习中实现更好的性能

第四章:消息传递

4. Message Passing and Node Classification.pptx

学习了图网络中的消息传递机制及其在节点分类任务中的应用。通过引入迭代分类器和基于关系的学习方法,我们看到了如何有效地利用图结构中的节点间相互作用,以提高分类性能。特别是,图神经网络通过消息传递层的学习,能够精确地捕捉和利用这些相互作用信息,为我们提供了一种强大的工具来处理复杂的网络数据

第五章:图神经网络

5-1. Graph Neural Network.pptx

5-2. A General Perspective on Graph Neural Network.pptx

5-3. A Single Layer of a GNN.pptx

5-4. Graph Augmentation for GNNs.pptx

5-5. Data Splitting for Graphs.pptx

整体上为我们展示了图神经网络(GNN)领域的深入研究,从基本概念到高级应用。开始时,我们了解到图数据的重要性及其在现实世界中的应用。随后,节点嵌入、浅层编码,以及随机游走等技术为我们揭示了如何捕获图结构的复杂性。接着,消息传递和节点分类的探讨为我们提供了一种理解图神经网络如何在节点间传播信息的视角。最后,通过对图神经网络的一般观点、单层结构、图增强技术,以及图数据划分方法的讨论,不仅加深了我们对图神经网络工作机制的理解,还为我提供了一系列实用的方法和策略🥳

第六章:图生成模型

6-1. Generative Models for Graphs_ Introduction.pptx

6-2. Erdös Renyi Random Graph Model.pptx

6-3. The Small-World Model.pptx

6-4. Kronecker Graph Model.pptx

这四节共同勾画了图生成模型的广阔领域,从入门到深入。首先介绍了图生成模型的基础概念,解释了这些模型的重要性及其在模拟现实世界网络中的应用。接着,Erdős-Rényi随机图模型、小世界模型,以及Kronecker图模型的讨论,为我们提供了从简单到复杂不同类型图生成模型的深入理解

未完待续...

博主还在努力学习中,会更多的把重心放在代码上面,下次更新可能...一年后?