引言目前GNN具有很多其他变形像GCN这些也仅仅只是在此基础上的一个变式或者改进底层还是以GNN为主既然是浅谈图神经网络作为新手小白的入门的话我也还是使用pytorch摒弃高级封装的库从0开始入门。首先我极力推荐阅读开山之作A Gentle Introduction to Graph Neural Networks可视化、可交互的带你更好的从宏观角度把握GNN整体相信看完之后会对整个体系醍醐灌顶。下面我将结合我的入门所学摒弃一切复杂的抽象表达和逻辑结合简单的代码项目用尽可能的大白话探讨GNN的世界。1.GNN整体概况1相信攻读过数据结构的小伙伴都知道图的两种表现形式邻接表和邻接矩阵用来表达节点和边的关系。其实GNN整体的数据结构就是这两种结构。为了方便理解我们只讨论二维图。2虽然图的载体是老生常谈的两种图但是图的表现形式非常多包括但不限于整张图片的不同区域、不同图片的关系、文本、检测识别的实体关系以及其他各种能被抽象成图的所有关系。3看起来图的表现形式和载体有很多种表达实际上大致可以分为三类具体的类别也是GNN研究的三个重点都有的改进都是基于解决这三个领域提出来的。这三类分别是节点、边、整个图。2.分别介绍2.1 节点核心思想让节点通过交友来了解自己。看微信朋友圈了解一个人一样典型应用社交网络预测用户兴趣标签引文网络论文学科分类蛋白质网络预测蛋白质功能整体把握维度说明理解节点通过GCNConv学习其他节点特征来增强自身特征本质节点获得上下文感知的能力聚合邻居信息关键操作多层GCN卷积信息传播输入一个图 目标节点索引输出每个节点的类别/数值简单理解就是A的朋友是B,B自己的朋友是C,但是A不认识C,只能通过B来得知C的情况即是A------B------C这种图关系如果A想要知道其他人的信息就需要走2步也就是需要2层卷积。第一步是A向B走一步得到B信息的融合第二步可以看作是从B出发又走了一步到C至此A就会融合B、C节点的信息。一般的节点任务就是实现分类或者融合节点信息做进一步强化处理。这里我们以实现分类为例子给出简单代码并作出解释。初始化import torch import torch.nn.functional as F from torch_geometric.data import Data from torch_geometric.nn import GCNConv # 1. 手动构造自定义图数据 # 模拟小图5个节点每个节点2维特征 x torch.tensor([ [1, 0], [0, 1], [1, 1], [0, 0], [1, 0] ], dtypetorch.float) # 边索引无向图格式[起点列表,终点列表] edge_index torch.tensor([ [0, 1, 1, 2, 2, 3, 3, 4], [1, 0, 2, 1, 3, 2, 4, 3] ], dtypetorch.long) # 节点标签2分类 y torch.tensor([0, 1, 1, 0, 0], dtypetorch.long) # 训练/测试掩码前3个节点训练后2个测试 train_mask torch.tensor([True, True, True, False, False]) test_mask torch.tensor([False, False, False, True, True]) # 组装成PyG标准图对象 data Data(xx, edge_indexedge_index, yy, train_masktrain_mask, test_masktest_mask) device torch.device(cuda if torch.cuda.is_available() else cpu) data data.to(device)这里我们为了方便理解定义5个节点0、1、2、3、4以及edge_index采用邻接矩阵竖着看是无向图的矩阵形式只保留核心之后的也就是 0-----1-------2-------3------4这种图。节点简单分为2类划分训练和测试掩码对以上矩阵信息组装成标准处理图像。构建GNN网络# 2. GCN模型 class GNN(torch.nn.Module): def __init__(self, in_dim, hidden_dim, out_dim): super().__init__() self.conv1 GCNConv(in_dim, hidden_dim) self.conv2 GCNConv(hidden_dim, out_dim) def forward(self, x, edge_index): x self.conv1(x, edge_index) x F.relu(x) x F.dropout(x, p0.5, trainingself.training) x self.conv2(x, edge_index) return F.log_softmax(x, dim1) model GNN(in_dim2, hidden_dim8, out_dim2).to(device) optimizer torch.optim.Adam(model.parameters(), lr0.01)in_dim:输入维度hidden_dim:隐藏维度out_dim:输出维度这里大家肯定会有一个疑问为什么hidden_dim8其余两个维度却是2因为输入的邻接矩阵是二维的所以in_dim是2输出是要对这5个节点分为两类。所以out_dim也是2中间的hidden_dim8一方面起到了升高维度的作用因为二维直角坐标系可以用x,y直来直去的表示两个特性的关系比如x1时看y的对应变化好理解但是如果引入另外一个变量z的话为了精确的表达和变化就需要把二维xy升到三维的xyz,多维类似另外一方面从2到8容积变大了可以让原本2容量的A节点吃下需要8容量的特性。conv1和2是对应的两层卷积。forward传播函数区别于cnn来说多了edge_index,其实也是因为图的两部分结构节点和边。依次经过卷积、激活函数、随机丢失部分数据点防止过拟合、卷积之后返回预测概率值。常规训练评估# 3. 训练评估 def train(): model.train() optimizer.zero_grad() out model(data.x, data.edge_index) loss F.nll_loss(out[data.train_mask], data.y[data.train_mask]) loss.backward() optimizer.step() return loss.item() def test(): model.eval() with torch.no_grad(): out model(data.x, data.edge_index) pred out.argmax(dim1) train_acc (pred[data.train_mask] data.y[data.train_mask]).sum() / data.train_mask.sum() test_acc (pred[data.test_mask] data.y[data.test_mask]).sum() / data.test_mask.sum() return train_acc, test_acc # 训练循环 for epoch in range(1, 31): loss train() train_acc, test_acc test() if epoch % 5 0: print(fEpoch {epoch:02d} | Loss: {loss:.4f} | Train Acc: {train_acc:.4f} | Test Acc: {test_acc:.4f})类似于cnn,分为训练和测试部分一样的逻辑这里就不再过多赘述。完整的代码import torch import torch.nn.functional as F from torch_geometric.data import Data from torch_geometric.nn import GCNConv # 1. 手动构造自定义图数据不用任何下载 # 模拟小图5个节点每个节点2维特征 x torch.tensor([ [1, 0], [0, 1], [1, 1], [0, 0], [1, 0] ], dtypetorch.float) # 边索引无向图格式[起点列表,终点列表] edge_index torch.tensor([ [0, 1, 1, 2, 2, 3, 3, 4], [1, 0, 2, 1, 3, 2, 4, 3] ], dtypetorch.long) # 节点标签2分类 y torch.tensor([0, 1, 1, 0, 0], dtypetorch.long) # 训练/测试掩码前3个节点训练后2个测试 train_mask torch.tensor([True, True, True, False, False]) test_mask torch.tensor([False, False, False, True, True]) # 组装成PyG标准图对象 data Data(xx, edge_indexedge_index, yy, train_masktrain_mask, test_masktest_mask) device torch.device(cuda if torch.cuda.is_available() else cpu) data data.to(device) # 2. GCN模型 class GNN(torch.nn.Module): def __init__(self, in_dim, hidden_dim, out_dim): super().__init__() self.conv1 GCNConv(in_dim, hidden_dim) self.conv2 GCNConv(hidden_dim, out_dim) def forward(self, x, edge_index): x self.conv1(x, edge_index) x F.relu(x) x F.dropout(x, p0.5, trainingself.training) x self.conv2(x, edge_index) return F.log_softmax(x, dim1) model GNN(in_dim2, hidden_dim8, out_dim2).to(device) optimizer torch.optim.Adam(model.parameters(), lr0.01) # 3. 训练评估 def train(): model.train() optimizer.zero_grad() out model(data.x, data.edge_index) loss F.nll_loss(out[data.train_mask], data.y[data.train_mask]) loss.backward() optimizer.step() return loss.item() def test(): model.eval() with torch.no_grad(): out model(data.x, data.edge_index) pred out.argmax(dim1) train_acc (pred[data.train_mask] data.y[data.train_mask]).sum() / data.train_mask.sum() test_acc (pred[data.test_mask] data.y[data.test_mask]).sum() / data.test_mask.sum() return train_acc, test_acc # 训练循环 for epoch in range(1, 31): loss train() train_acc, test_acc test() if epoch % 5 0: print(fEpoch {epoch:02d} | Loss: {loss:.4f} | Train Acc: {train_acc:.4f} | Test Acc: {test_acc:.4f})2.2 边核心思想两个节点越像越可能有关系两人像不像会不会成为朋友。典型应用社交推荐你可能认识的人药物发现预测药物-靶点相互作用知识图谱补全缺失的关系整体把握维度说明理解通过内积计算边的特性反向预测节点有无对应关系本质将图结构编码为节点嵌入再用相似度判断边是否存在关键操作编码器GCN 解码器内积/点积/MLP输入图 需要预测的节点对输出节点对之间存在边的得分/概率简单理解就是根据处理边上的信息反向预测节点关系。就像看一个人和其他一群人有没有什么关系区别于上一个的节点任务信息量全放在节点这次反过来了信息全放在边上。初始化import torch import torch.nn.functional as F from sklearn.metrics import roc_auc_score from torch_geometric.datasets import Planetoid from torch_geometric.nn import GCNConv from torch_geometric.utils import train_test_split_edges # 1. 加载Cora并自动拆分训练/验证/测试边内置负样本 dataset Planetoid(rootdata/CoraLink, nameCora) data dataset[0] # 拆分边训练边、验证边、测试边 对应负样本 data train_test_split_edges(data, val_ratio0.05, test_ratio0.1) device torch.device(cuda if torch.cuda.is_available() else cpu) data data.to(device)借用Cora数据集采用torch_geometric.utils.train_test_split_edges来拆分边构建链路模型# 2. 链路预测模型编码节点嵌入 内积打分预测边 class LinkGCN(torch.nn.Module): def __init__(self, in_dim, hidden_dim, out_dim): super().__init__() self.conv1 GCNConv(in_dim, hidden_dim) self.conv2 GCNConv(hidden_dim, out_dim) # 编码器得到所有节点低维表征 def encode(self, x, edge_index): x self.conv1(x, edge_index).relu() return self.conv2(x, edge_index) # 解码器输入一对节点内积计算存在边的得分 def decode(self, z, edge_label_index): src z[edge_label_index[0]] dst z[edge_label_index[1]] return (src * dst).sum(dim-1)#就类似内积 |a| × |b| × cos(θ) def forward(self, x, edge_index, edge_label_index): z self.encode(x, edge_index) return self.decode(z, edge_label_index)初始化和前面节点任务的一样不再过多赘述。重点在编码器和解码器1编码器用来获得节点的低纬表征比如某一个节点蕴含178维度信息通过卷积、激活在二次卷积的操作把这178高维信息映射转化为低纬度比如2维度的信息相信在直角坐标系里面一定更好的方便。2解码器对2个节点计算边的得分。用来内积的数大小判断两个节点存在关系的可能性。常规训练评估model LinkGCN(dataset.num_features, 64, 32).to(device) optimizer torch.optim.Adam(model.parameters(), lr0.01) criterion torch.nn.BCEWithLogitsLoss() # 训练 def train(): model.train() optimizer.zero_grad() z model.encode(data.x, data.train_pos_edge_index) # 正负边拼接训练 out model.decode(z, data.train_edge_label_index) loss criterion(out, data.train_edge_label) loss.backward() optimizer.step() return loss.item() # 验证AUC def test(val_edge, val_label): model.eval() z model.encode(data.x, data.train_pos_edge_index) out model.decode(z, val_edge).detach().cpu() label val_label.cpu() auc roc_auc_score(label, out) return auc # 训练循环 for epoch in range(1, 151): loss train() val_auc test(data.val_edge_label_index, data.val_edge_label) test_auc test(data.test_edge_label_index, data.test_edge_label) if epoch % 20 0: print(fEpoch {epoch:03d} | Loss: {loss:.4f} | Val AUC: {val_auc:.4f} | Test AUC: {test_auc:.4f})和前面节点任务的相差不大不再过多赘述。完整的代码import torch import torch.nn.functional as F from sklearn.metrics import roc_auc_score from torch_geometric.datasets import Planetoid from torch_geometric.nn import GCNConv from torch_geometric.utils import train_test_split_edges # 1. 加载Cora并自动拆分训练/验证/测试边内置负样本 dataset Planetoid(rootdata/CoraLink, nameCora) data dataset[0] # 拆分边训练边、验证边、测试边 对应负样本 data train_test_split_edges(data, val_ratio0.05, test_ratio0.1) device torch.device(cuda if torch.cuda.is_available() else cpu) data data.to(device) # 2. 链路预测模型编码节点嵌入 内积打分预测边 class LinkGCN(torch.nn.Module): def __init__(self, in_dim, hidden_dim, out_dim): super().__init__() self.conv1 GCNConv(in_dim, hidden_dim) self.conv2 GCNConv(hidden_dim, out_dim) # 编码器得到所有节点低维表征 def encode(self, x, edge_index): x self.conv1(x, edge_index).relu() return self.conv2(x, edge_index) # 解码器输入一对节点内积计算存在边的得分 def decode(self, z, edge_label_index): src z[edge_label_index[0]] dst z[edge_label_index[1]] return (src * dst).sum(dim-1)#就类似内积 |a| × |b| × cos(θ) def forward(self, x, edge_index, edge_label_index): z self.encode(x, edge_index) return self.decode(z, edge_label_index) model LinkGCN(dataset.num_features, 64, 32).to(device) optimizer torch.optim.Adam(model.parameters(), lr0.01) criterion torch.nn.BCEWithLogitsLoss() # 训练 def train(): model.train() optimizer.zero_grad() z model.encode(data.x, data.train_pos_edge_index) # 正负边拼接训练 out model.decode(z, data.train_edge_label_index) loss criterion(out, data.train_edge_label) loss.backward() optimizer.step() return loss.item() # 验证AUC def test(val_edge, val_label): model.eval() z model.encode(data.x, data.train_pos_edge_index) out model.decode(z, val_edge).detach().cpu() label val_label.cpu() auc roc_auc_score(label, out) return auc # 训练循环 for epoch in range(1, 151): loss train() val_auc test(data.val_edge_label_index, data.val_edge_label) test_auc test(data.test_edge_label_index, data.test_edge_label) if epoch % 20 0: print(fEpoch {epoch:03d} | Loss: {loss:.4f} | Val AUC: {val_auc:.4f} | Test AUC: {test_auc:.4f})2.3 整个图核心思想不管图多大都压缩成固定长度再判断一个朋友圈整体是什么类型。典型应用分子属性预测预测化合物是否有毒社交网络分类判断网络类型社交/生物/交通程序分析检测恶意代码整体把握维度说明理解对整张图进行分类难点在于让不同大小的图统一维度本质图池化Pooling将可变节点数 → 固定向量关键操作GCN卷积 图池化均值/最大/求和/层次化输入多张大小不同的图batch输出每张图的类别简单理解从原子分子聚合物物质从微观到宏观去理解一种物质初始化import torch import torch.nn.functional as F from torch_geometric.datasets import TUDataset from torch_geometric.loader import DataLoader from torch_geometric.nn import GCNConv, global_add_pool, global_mean_pool datasetTUDataset(rootrstudy_gnn/data,nameMUTAG) datasetdataset.shuffle() #划分训练集合数据集 train_datasetdataset[:150] test_datasetdataset[150:] train_loader DataLoader(train_dataset,batch_size32,shuffleTrue) test_loader DataLoader(test_dataset,batch_size32) device torch.device(cuda if torch.cuda.is_available() else cpu)借用MUTAG数据集里面都是图片从类似cnn的角度去处理图片。划分训练集和测试集。构建模型#图片分类模型最后全局池化得到整张图片表征 class GraphGCN(torch.nn.Module): def __init__(self,hidden_channels): super(GraphGCN, self).__init__() torch.manual_seed(12345) self.conv1 GCNConv(7, 32) # 7 → 32信息扩充 self.conv2 GCNConv(32, 64) # 32 → 64信息丰富 self.conv3 GCNConv(64, 128) # 64 → 128抽象表达 self.lin torch.nn.Linear(128, 2) # 128 → 2分类决策 就好像conv1从元素符号到化学性质向量,升高维度 conv2从原子性质到官能团特征 conv3从官能团到分子整体特性 lin将高维特征映射到分类空间,从分子表示到致突变概率 self.conv1 GCNConv(dataset.num_node_features, hidden_channels) self.conv2 GCNConv(hidden_channels, hidden_channels) self.conv3 GCNConv(hidden_channels, hidden_channels) self.lin torch.nn.Linear(hidden_channels, dataset.num_classes) def forward(self, x,edge_index,batch): xself.conv1(x,edge_index).relu() xself.conv2(x,edge_index).relu() xself.conv3(x,edge_index) xglobal_mean_pool(x,batch) xF.dropout(x, p0.5,trainingself.training) x self.lin(x) return xconv1、2、3结合上面代码注释部分具有升高维度和扩展信息丰富度的作用。forword函数中经过三层卷积和两个激活函数与众不同的是会有一层池化我的理解是类似cnn流程压缩提出图片信息。常规训练评估model GraphGCN(hidden_channels64).to(device) optimizer torch.optim.Adam(model.parameters(), lr0.01) criterion torch.nn.CrossEntropyLoss() # 训练一轮 def train(): model.train() total_loss 0 for batch in train_loader: batch batch.to(device) optimizer.zero_grad() out model(batch.x, batch.edge_index, batch.batch) loss criterion(out, batch.y) loss.backward() optimizer.step() total_loss loss.item() return total_loss / len(train_loader) # 测试集精度 def test(loader): model.eval() correct 0 for batch in loader: batch batch.to(device) out model(batch.x, batch.edge_index, batch.batch) pred out.argmax(dim1) correct int((pred batch.y).sum()) return correct / len(loader.dataset) # 训练循环 for epoch in range(1, 101): loss train() train_acc test(train_loader) test_acc test(test_loader) if epoch % 10 0: print(fEpoch {epoch:03d} | Loss: {loss:.4f} | Train Acc: {train_acc:.4f} | Test Acc: {test_acc:.4f})和之前的任务类似不做过多赘述。完整的代码import torch import torch.nn.functional as F from torch_geometric.datasets import TUDataset from torch_geometric.loader import DataLoader from torch_geometric.nn import GCNConv, global_add_pool, global_mean_pool datasetTUDataset(rootrstudy_gnn/data,nameMUTAG) datasetdataset.shuffle() #划分训练集合数据集 train_datasetdataset[:150] test_datasetdataset[150:] train_loader DataLoader(train_dataset,batch_size32,shuffleTrue) test_loader DataLoader(test_dataset,batch_size32) device torch.device(cuda if torch.cuda.is_available() else cpu) #图片分类模型最后全局池化得到整张图片表征 class GraphGCN(torch.nn.Module): def __init__(self,hidden_channels): super(GraphGCN, self).__init__() torch.manual_seed(12345) self.conv1 GCNConv(7, 32) # 7 → 32信息扩充 self.conv2 GCNConv(32, 64) # 32 → 64信息丰富 self.conv3 GCNConv(64, 128) # 64 → 128抽象表达 self.lin torch.nn.Linear(128, 2) # 128 → 2分类决策 就好像conv1从元素符号到化学性质向量,升高维度 conv2从原子性质到官能团特征 conv3从官能团到分子整体特性 lin将高维特征映射到分类空间,从分子表示到致突变概率 self.conv1 GCNConv(dataset.num_node_features, hidden_channels) self.conv2 GCNConv(hidden_channels, hidden_channels) self.conv3 GCNConv(hidden_channels, hidden_channels) self.lin torch.nn.Linear(hidden_channels, dataset.num_classes) def forward(self, x,edge_index,batch): xself.conv1(x,edge_index).relu() xself.conv2(x,edge_index).relu() xself.conv3(x,edge_index) xglobal_mean_pool(x,batch) xF.dropout(x, p0.5,trainingself.training) x self.lin(x) return x model GraphGCN(hidden_channels64).to(device) optimizer torch.optim.Adam(model.parameters(), lr0.01) criterion torch.nn.CrossEntropyLoss() # 训练一轮 def train(): model.train() total_loss 0 for batch in train_loader: batch batch.to(device) optimizer.zero_grad() out model(batch.x, batch.edge_index, batch.batch) loss criterion(out, batch.y) loss.backward() optimizer.step() total_loss loss.item() return total_loss / len(train_loader) # 测试集精度 def test(loader): model.eval() correct 0 for batch in loader: batch batch.to(device) out model(batch.x, batch.edge_index, batch.batch) pred out.argmax(dim1) correct int((pred batch.y).sum()) return correct / len(loader.dataset) # 训练循环 for epoch in range(1, 101): loss train() train_acc test(train_loader) test_acc test(test_loader) if epoch % 10 0: print(fEpoch {epoch:03d} | Loss: {loss:.4f} | Train Acc: {train_acc:.4f} | Test Acc: {test_acc:.4f})总结对比维度节点级边级图级关注对象单个节点节点对整张图输出维度节点数×类别数边数×得分图数×类别数核心挑战扩大感受野学习有效嵌入处理可变大小关键操作多层GCN内积解码器图池化是否需池化❌ 不需要❌ 不需要✅必须类比CNN像素分类像素对关系图像分类