PyTorch Geometric 超图卷积实战指南一篇讲透群聊式高阶关系建模【免费下载链接】pytorch_geometricGraph Neural Network Library for PyTorch项目地址: https://gitcode.com/GitHub_Trending/py/pytorch_geometricPyTorch GeometricPyG除了常规一条边连两个节点的图数据还提供了超图卷积层。本文用HyperGraphData和HypergraphConv两个模块讲清楚如何把群聊成员、多原子键合、用户-商品-标签这类高阶关系建模成超边并训练一个节点分类器。 第一步建一个两个群聊的超图数据假设 5 个用户构成两个群聊群 0 由用户 0、1、2 组成群 1 由用户 1、2、3、4 组成。普通图里你得在群成员之间两两补边而超图里每个群聊本身就是一条超边。PyG 没有为超边单独发明张量格式而是复用普通edge_index的布局第一行存节点索引第二行存该节点所属的超边编号。下面这段代码把上面两个群聊写成数据对象import torch from torch_geometric.data.hypergraph_data import HyperGraphData x torch.randn(5, 16) # 5 个用户每个 16 维特征 y torch.tensor([0, 0, 1, 1, 2]) # 节点分类标签 edge_index torch.tensor([ [0, 1, 2, 1, 2, 3, 4], # 第一行节点索引 [0, 0, 0, 1, 1, 1, 1], # 第二行节点属于哪条超边群聊 ]) data HyperGraphData(xx, edge_indexedge_index, yy) print(data.num_nodes, data.num_edges) # 5, 2这里有两个容易踩的坑构造参数名是edge_index而不是hyperedge_index。类定义在torch_geometric/data/hypergraph_data.py但它没有挂到torch_geometric.data的顶层导出上需要按上面那样从子模块直接 import。num_edges按第二行最大值 1推断所以超边编号必须从 0 开始连续num_nodes则由第一行最大值推断。 超图卷积一次出去再回来的两段聚合HypergraphConv来自论文 Hypergraph Convolution and Hypergraph Attention实现位于torch_geometric/nn/conv/hypergraph_conv.py。把公式先翻译成人话每个节点的特征先被聚合进它所在的每条超边超边再把聚合结果送回每个节点每一段都除以对应的度做归一化。对应公式为$$\mathbf{X} \mathbf{D}^{-1}\mathbf{H}\mathbf{W}\mathbf{B}^{-1}\mathbf{H}^{\top}\mathbf{X}\boldsymbol{\Theta}$$其中 H 是 0/1 关联矩阵被压缩成 edge_index 这种稀疏形式W 是超边权重D、B 分别是节点所属超边数的倒数和超边规模的倒数Θ 是可学习的线性权重。两段聚合在源码forward中体现为对同一个hyperedge_index做两次propagate。最小调用方式和普通 GCN 一致from torch_geometric.nn import HypergraphConv conv HypergraphConv(16, 32) x conv(x, edge_index) # 输出仍是每节点 32 维特征forward还接受两个可选参数hyperedge_weight长度为超边数 M 的向量控制每条超边的权重缺省为全 1和num_edges一般不用传可从索引推断。⚖️ 注意力什么时候开node 和 edge 模式怎么选设置use_attentionTrue后PyG 会为每个节点—超边关联打分此时必须同时传入hyperedge_attr源码里有显式 assert形状为 [M, F] 的张量表示每条超边自身的特征例如群聊成员的平均画像或标签词统计。edge_attr torch.randn(2, 16) # 每个群聊一条 16 维特征 conv HypergraphConv(16, 32, use_attentionTrue, heads2, concatTrue) x conv(x, edge_index, hyperedge_attredge_attr)attention_mode决定 softmax 沿哪个维度归一化两种模式回答的问题不同node默认在同一条超边内、所有属于它的节点之间算注意力回答这个群里谁贡献大edge对同一个节点、跨它所属的所有超边算注意力回答这个用户更关注哪个群。多头部分concatFalse时各头输出取平均而不是拼接输出维度是out_channels而不是heads * out_channels。✅ 串起来一个两层超图分类器把前面拼成完整模型注意注意力模式下每层都要传edge_attrimport torch.nn.functional as F class HyperGNN(torch.nn.Module): def __init__(self): super().__init__() self.conv1 HypergraphConv(16, 32, use_attentionTrue) self.conv2 HypergraphConv(32, 3, use_attentionTrue) def forward(self, x, edge_index, edge_attr): x self.conv1(x, edge_index, hyperedge_attredge_attr) x F.relu(x) x F.dropout(x, p0.5, trainingself.training) return self.conv2(x, edge_index, hyperedge_attredge_attr)训练就是标准循环一步反向传播写出来如下model HyperGNN() opt torch.optim.Adam(model.parameters(), lr0.01) loss_fn torch.nn.CrossEntropyLoss() model.train() opt.zero_grad() loss loss_fn(model(data.x, data.edge_index, edge_attr), data.y) loss.backward() opt.step()如果任务只需要朴素超图卷积把use_attention去掉、不传edge_attr即可参数更少、也更省显存。 适用边界哪些任务不必硬上超图上手前建议先核对三点。高阶语义是否真实存在。如果群只是若干两两关系的集合普通图加边特征就能表达超边维度反而增加参数和内存开销。超边规模。聚合成本由所有超边尺寸之和即 edge_index 的元素数决定一条超边里塞上几千个节点时scatter 开销线性上涨需要先做采样或粗粒度压缩。如果任务主体仍是节点两两之间的交互PyG 更通用的图结构 Transformer路线值得优先考虑思路是把图结构编码成空间/边信息再送入注意力层下一步可以做什么阅读torch_geometric/data/hypergraph_data.py中subgraph的实现理解采样节点时超边如何保留、如何重标号这是大规模超图训练的基础。跑一遍test/nn/conv/test_hypergraph_conv.py其中节点多于超边和超边多于节点两个用例很适合用来验证自己数据在形状上的正确性。如果数据带时间维度参考torch_geometric/datasets/cornell.pyCornellTemporalHyperGraphDataset里超边随时间演化的数据组织方式。【免费下载链接】pytorch_geometricGraph Neural Network Library for PyTorch项目地址: https://gitcode.com/GitHub_Trending/py/pytorch_geometric创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考