学做网站要什么基础,网站建设解决方案服务商,网站开发liucheng,域名注册网站源码文章目录 两层gcn#xff0c;提取最后一层节点输出特征#xff0c;10个节点#xff0c;每个节点8个特征#xff0c;连接关系随机生成#xff08;无全连接层#xff09;如何计算MSE 100个样本#xff0c;并且使用批量大小为32进行训练第一个版本定义数据集出错#xff0… 文章目录 两层gcn提取最后一层节点输出特征10个节点每个节点8个特征连接关系随机生成无全连接层如何计算MSE 100个样本并且使用批量大小为32进行训练第一个版本定义数据集出错添加super()并修改为__len__和__getitem__idx的作用使用super()方法再次解释一遍定义数据集的代码 另外一个值得注意的错误定义数据集部分修改之后还是报obj super().__new__(cls)TypeError: Cant instantiate abstract class MyDataset with abstract methods get, len错误from torch.utils.data import Dataset 与 from torch_geometric.data import Data 和 Dataset是不一样的from torch_geometric.data import Data的作用 验证 MyDataset 类生成的样本和批次数据的形状完整代码 两层gcn提取最后一层节点输出特征10个节点每个节点8个特征连接关系随机生成无全连接层
如果没有全连接层fc层那么输出将是每个节点的特征。这样的话标签需要对应每个节点的输出特征。在这种情况下标签的维度应该是节点数乘以输出特征数。
如果我们将输出特征数设为1并且没有全连接层那么每个节点的输出将是一个标量。标签的维度将与节点数相同。例如假设有10个节点每个节点的输出是一个标量那么标签的维度应该是 (10,)。
以下是一个没有全连接层的双层GCN实现其中标签数和节点数相同
import torch
import torch.nn.functional as F
from torch_geometric.nn import GCNConv
from torch_geometric.data import Dataclass GCN(torch.nn.Module):def __init__(self, in_channels, hidden_channels, out_channels):super(GCN, self).__init__()self.conv1 GCNConv(in_channels, hidden_channels)self.conv2 GCNConv(hidden_channels, out_channels)def forward(self, x, edge_index):print(x.shape)x self.conv1(x, edge_index)print(x.shape)x F.relu(x)x self.conv2(x, edge_index)print(x.shape)return x# 定义图数据
num_nodes 10
num_node_features 8
edge_index torch.tensor([[0, 1, 2, 3, 4, 5, 6, 7, 8, 9],[1, 2, 3, 4, 5, 6, 7, 8, 9, 0]], dtypetorch.long)
x torch.randn((num_nodes, num_node_features))data Data(xx, edge_indexedge_index)# 定义并训练模型
model GCN(in_channelsnum_node_features, hidden_channels16, out_channels1)
print(model)
optimizer torch.optim.Adam(model.parameters(), lr0.01)
criterion torch.nn.MSELoss()# 假设我们有一些训练标签每个节点一个标签
labels torch.randn((num_nodes, 1))# 简单的训练循环
model.train()
for epoch in range(1):optimizer.zero_grad()out model(data.x, data.edge_index)loss criterion(out, labels)print(floss {loss})loss.backward()optimizer.step()# 提取最后一层节点输出特征
model.eval()
with torch.no_grad():out model(data.x, data.edge_index)print(out)
在这个示例中
模型输出的形状是 (num_nodes, 1)即每个节点有一个输出特征。标签的形状也是 (num_nodes, 1)即每个节点有一个对应的标签。损失函数使用均方误差损失MSELoss并计算每个节点输出与对应标签之间的误差。
这样我们确保输出与标签的维度一致从而正确计算损失并进行训练。
如何计算MSE
在没有全连接层的情况下每个节点都有一个输出特征标签也是每个节点一个标签。损失函数如MSELoss会计算每个节点输出特征与对应标签之间的误差然后将这些误差进行平均或求和得到总体损失。
以下是一个更详细的说明
模型输出形状为(num_nodes, 1)表示每个节点的输出特征。标签形状为(num_nodes, 1)表示每个节点的对应标签。
在训练过程中损失函数会计算每个节点的输出与对应标签之间的误差并将所有节点的误差进行汇总通常是求平均得到一个标量损失值。优化器会根据这个损失值更新模型的参数。
我们使用均方误差损失MSELoss其计算公式为 MSE 1 N ∑ i 1 N ( y i − y ^ i ) 2 \text{MSE} \frac{1}{N} \sum_{i1}^N (y_i - \hat{y}_i)^2 MSEN1∑i1N(yi−y^i)2 其中 N N N是节点数 y i y_i yi 是第 i i i 个节点的标签 y ^ i \hat{y}_i y^i是第 i i i 个节点的预测值。
在这个示例中
模型输出每个节点的输出特征形状为 (num_nodes, 1)。标签每个节点的对应标签形状为 (num_nodes, 1)。损失函数均方误差损失MSELoss计算每个节点输出与对应标签之间的误差并将这些误差进行平均得到总体损失。
这个过程确保了每个节点的输出特征与其对应的标签进行比较从而计算损失并优化模型。
100个样本并且使用批量大小为32进行训练
第一个版本定义数据集出错添加super()并修改为__len__和__getitem__
# 定义数据集类
class MyDataset(Dataset):def __init__(self, num_samples, num_nodes, num_node_features):self.num_samples num_samplesself.num_nodes num_nodesself.num_node_features num_node_featuresdef len(self):return self.num_samplesdef get(self, idx):edge_index torch.tensor([[i for i in range(self.num_nodes)],[(i 1) % self.num_nodes for i in range(self.num_nodes)]], dtypetorch.long)x torch.randn((self.num_nodes, self.num_node_features))y torch.randn((self.num_nodes, 1)) # 每个节点一个标签return Data(xx, edge_indexedge_index, yy)当你遇到 AttributeError: cant set attribute 错误时通常是因为你试图在一个类的实例上设置一个属性但该类不允许直接设置属性。在Python中某些类特别是那些继承自某些基类比如 torch.utils.data.Dataset的类限制了直接属性赋值的操作这是为了安全或一致性考虑。
要解决这个问题你应该在你的 MyDataset 类的 __init__ 方法中正确地初始化属性。以下是如何修复这个问题的方法
from torch.utils.data import Dataset
from torch_geometric.data import Data# 定义数据集类
class MyDataset(Dataset):def __init__(self, num_samples, num_nodes, num_node_features):super(MyDataset, self).__init__() # Initialize base class if inheritingself.num_samples num_samplesself.num_nodes num_nodesself.num_node_features num_node_features# 创建固定的边索引这里简单使用环形图self.edge_index torch.tensor([[i for i in range(self.num_nodes)],[(i 1) % self.num_nodes for i in range(self.num_nodes)]], dtypetorch.long)def __len__(self):return self.num_samplesdef __getitem__(self, idx):# 创建随机特征和标签这里仅作示例x torch.randn((self.num_nodes, self.num_node_features))y torch.randn((self.num_nodes, 1)) # 每个节点一个标签# 返回一个包含图数据的 Data 对象保持相同的边索引return Data(xx, edge_indexself.edge_index, yy)# 创建数据集和数据加载器
num_samples 100
num_nodes 10
num_node_features 8
batch_size 32dataset MyDataset(num_samples, num_nodes, num_node_features)
print(dataset[0].edge_index)
idx的作用
在PyTorch中特别是在使用 torch.utils.data.Dataset 和 torch.utils.data.DataLoader 构建数据加载和处理管道时idx或者通常命名为 index代表着数据集中样本的索引。具体来说 __getitem__ 方法中的 idx 在自定义的数据集类中通常会实现 __getitem__ 方法。这个方法接收一个参数 idx它表示你要获取的样本在数据集中的索引。例如在一个图像分类任务中idx 就是每张图像在数据集中的位置。通过这个索引你可以从数据集中加载并返回对应位置的样本数据。 作用 idx 的作用是定位和访问数据集中特定样本的数据。在训练过程中DataLoader 会使用 __getitem__ 方法迭代数据集根据给定的 idx 获取每个样本然后将它们组织成批量供模型训练。在使用 DataLoader 加载数据时idx 通常会被 DataLoader 内部迭代器管理你无需手动传递它只需实现好 __getitem__ 方法即可。 示例 假设你有一个自定义的数据集类 MyDataset实现了 __getitem__ 方法来根据 idx 加载图像数据。当你使用 DataLoader 加载这个数据集时DataLoader 会自动处理索引的管理和批量数据的组织你只需要关注数据集类的实现和模型的训练过程。
总结来说idx 是用来在数据集中定位和访问特定样本的索引参数它在自定义数据集类中的作用是非常重要的能够帮助你有效地管理和处理数据集中的样本数据。
使用super()方法
如果在使用 super() 调用时出现错误通常是因为类的初始化方法__init__中没有正确地调用父类的初始化方法。这可能会导致 Python 报告类的属性无法设置的错误。让我们来看看如何正确使用 super() 并初始化属性。
在你的 MyDataset 类中确保按照以下方式使用 super() 和正确初始化属性
super() 函数在 Python 中super() 函数用于调用父类的方法。在 MyDataset 类的 __init__ 方法中super(MyDataset, self).__init__() 调用了 Dataset 类的初始化方法确保正确初始化了 Dataset 类中的属性和方法。属性初始化在 MyDataset 的 __init__ 方法中通过 self.num_samples、self.num_nodes 和 self.num_node_features 初始化了数据集的属性。这些属性用于定义数据集的特征和样本数量。数据加载__getitem__ 方法用于按照给定的 idx 加载数据集中的样本并返回一个包含图数据的 Data 对象。
通过这样的方式你可以确保 MyDataset 类正确地继承了 Dataset 类并正确初始化了属性避免了 AttributeError 错误的发生。
再次解释一遍定义数据集的代码
在PyTorch中torch.utils.data.Dataset 是一个抽象基类要求自定义的数据集类必须实现 __len__ 和 __getitem__ 方法。这些方法分别用于确定数据集的长度和获取数据集中的一个样本。
__init__ 方法在 __init__ 方法中创建了一个固定的边索引 self.edge_index这里使用简单的环形图示例。这个边索引在数据集初始化时被创建并在每次调用 __getitem__ 方法时被重复使用从而确保每个样本的图数据保持相同的连接关系。__len__ 方法这个方法返回数据集的长度即数据集中样本的数量。在这里它返回了 num_samples表示数据集中有多少个样本。__getitem__ 方法这个方法根据给定的索引 idx 返回数据集中的一个样本。在这里它返回一个包含随机节点特征、固定边索引和随机节点标签的 Data 对象确保了图连接关系的不变性。
你可以正确地实现并使用 MyDataset 类来创建多个数据集样本并确保每个样本的图连接关系保持不变。
另外一个值得注意的错误定义数据集部分修改之后还是报obj super().new(cls)TypeError: Can’t instantiate abstract class MyDataset with abstract methods get, len错误
from torch.utils.data import Dataset 与 from torch_geometric.data import Data 和 Dataset是不一样的
torch.utils.data.Dataset 和 torch_geometric.data.Dataset 是两个不同的类分别来自于不同的模块功能和用途也略有不同。 torch.utils.data.Dataset 这是 PyTorch 提供的一个抽象基类用于创建自定义数据集。它要求用户继承并实现 __len__ 和 __getitem__ 方法以便能够使用 torch.utils.data.DataLoader 进行数据加载和批处理。主要用途是在通用的机器学习任务中加载和处理数据集例如图像分类、文本处理等。 torch_geometric.data.Dataset 这是 PyTorch Geometric 提供的一个特定数据集类用于处理图数据。它继承自 torch.utils.data.Dataset并额外提供了一些方法和功能使得可以更方便地处理图数据集。主要用途是在图神经网络中加载和处理图数据包括节点特征、边索引等。 功能特点 torch.utils.data.Dataset 适用于通用的数据加载和处理可以处理各种类型的数据集。torch_geometric.data.Dataset 专门用于处理图数据提供了额外的功能来处理节点和边的特征。 使用场景 如果你处理的是普通的数据集如图像、文本等可以使用 torch.utils.data.Dataset 来创建自定义的数据加载器。如果你处理的是图数据如节点和边具有特定的连接关系和属性建议使用 torch_geometric.data.Dataset 来利用其专门针对图数据设计的功能。
如果你想要处理图数据可以使用 torch_geometric.data.Dataset 的子类例如 torch_geometric.datasets.Planetoid用来加载图数据集例如 Planetoid 数据集
from torch_geometric.datasets import Planetoid
import torch_geometric.transforms as Tdataset Planetoid(root/your/data/path, nameCora, transformT.NormalizeFeatures())这里使用了 Planetoid 数据集类它继承自 torch_geometric.data.Dataset专门用于加载和处理图数据集例如 Cora 数据集。
from torch_geometric.data import Data的作用
在 PyTorch Geometric 中torch_geometric.data.Data 是一个用于表示图数据的核心数据结构之一。它主要用来存储图中的节点特征、边索引以及可选的图级别特征具有以下作用 存储节点特征和边索引 Data 对象可以存储节点特征矩阵通常是一个二维张量和边索引通常是一个二维长整型张量。节点特征矩阵的每一行表示一个节点的特征向量边索引描述了节点之间的连接关系。 支持图级别的特征 除了节点特征和边索引外Data 对象还可以存储图级别的特征例如全局图特征如图的标签或属性。 作为输入输出的载体 在图神经网络中Data 对象通常作为输入数据的载体。例如在进行图分类、节点分类或图生成任务时模型的输入通常是 Data 对象。 与其他 PyTorch Geometric 函数和类的兼容性 Data 对象与 PyTorch Geometric 中的其他函数和类高度兼容例如数据转换、数据集加载等。它们共同支持创建、处理和转换图数据。 用于数据集的表示 在自定义的数据集中你可以使用 Data 对象来表示每个样本的图数据。通过组织和存储节点特征、边索引和图级别特征可以更方便地加载和处理复杂的图结构数据集。
下面是一个简单的示例展示如何使用 Data 对象创建和操作图数据
from torch_geometric.data import Data
import torch# 创建节点特征和边索引
x torch.tensor([[1, 2], [3, 4], [5, 6]], dtypetorch.float) # 3个节点每个节点2个特征
edge_index torch.tensor([[0, 1, 1, 2], [1, 0, 2, 1]], dtypetorch.long) # 边索引表示节点之间的连接关系# 创建一个 Data 对象
data Data(xx, edge_indexedge_index)# 访问和操作 Data 对象中的属性
print(data)
print(Number of nodes:, data.num_nodes)
print(Number of edges:, data.num_edges)
print(Node features shape:, data.x.shape)
print(Edge index shape:, data.edge_index.shape)在这个示例中我们首先创建了节点特征矩阵 x 和边索引 edge_index然后使用它们来实例化一个 Data 对象 data。通过访问 data 对象的属性可以获取节点数、边数以及节点特征和边索引的形状信息。
总之torch_geometric.data.Data 在 PyTorch Geometric 中扮演着关键的角色用于表示和处理图数据是构建图神经网络模型的重要基础之一。
验证 MyDataset 类生成的样本和批次数据的形状
为了实现一个自定义数据集 MyDataset可以创建一个包含 100 个样本的数据集每个样本包含一个形状为 (32, 8) 的节点特征矩阵。需要注意的是MyDataset 类中的 __getitem__ 方法应该返回每个样本的数据包括节点特征、边索引等。
我们可以通过打印 MyDataset 中每个样本的数据形状来验证数据的形状。以下是实现和验证的示例代码
dataset MyDataset(num_samples, num_nodes, num_node_features)
print(len(dataset))# 查看数据集中的前几个样本的形状
for i in range(3):data dataset[i]print(fSample {i} - Node features shape: {data.x.shape}, Edge index shape: {data.edge_index.shape}, Labels shape: {data.y.shape})dataloader DataLoader(dataset, batch_sizebatch_size, shuffleTrue)
# 从 DataLoader 中获取一个批次的数据
for batch in dataloader:print(Batch node features shape:, batch.x.shape)print(Batch edge index shape:, batch.edge_index.shape)print(Batch labels shape:, batch.y.shape)break # 仅查看第一个批次的形状数据格式是展平的 (batch_size * num_nodes, num_features)
使用DenseDataLoader数据格式为(batch_size , num_nodes, num_features) DenseDataLoader 和 DataLoader 在处理数据的方式上有所不同。DenseDataLoader 是专门用于处理稠密图数据的而 DataLoader 通常用于处理稀疏图数据。在你的案例中如果所有图的节点数和边数是固定的可以使用 DenseDataLoader 进行更高效的批处理。
完整代码
import torch
import torch.nn.functional as F
from torch_geometric.nn import GCNConvfrom torch.utils.data import Dataset
from torch_geometric.data import Data
from torch_geometric.loader import DataLoader, DenseDataLoader# 定义数据集类
class MyDataset(Dataset):def __init__(self, num_samples, num_nodes, num_node_features):super(MyDataset, self).__init__() # Initialize base class if inheritingself.num_samples num_samplesself.num_nodes num_nodesself.num_node_features num_node_features# 创建固定的边索引这里简单使用环形图self.edge_index torch.tensor([[i for i in range(self.num_nodes)],[(i 1) % self.num_nodes for i in range(self.num_nodes)]], dtypetorch.long)def __len__(self):return self.num_samplesdef __getitem__(self, idx):# 创建随机特征和标签这里仅作示例x torch.randn((self.num_nodes, self.num_node_features))y torch.randn((self.num_nodes, 1)) # 每个节点一个标签# 返回一个包含图数据的 Data 对象保持相同的边索引return Data(xx, edge_indexself.edge_index, yy)# 创建数据集和数据加载器
num_samples 100
num_nodes 10
num_node_features 8
batch_size 32dataset MyDataset(num_samples, num_nodes, num_node_features)
# data_list [dataset[i] for i in range(num_samples)]
dataloader DataLoader(dataset, batch_sizebatch_size, shuffleTrue)
# 从 DataLoader 中获取一个批次的数据
for batch in dataloader:print(Batch node features shape:, batch.x.shape)print(Batch edge index shape:, batch.edge_index.shape)print(Batch labels shape:, batch.y.shape)break # 仅查看第一个批次的形状# 定义GCN模型
class GCN(torch.nn.Module):def __init__(self, in_channels, hidden_channels, out_channels):super(GCN, self).__init__()self.conv1 GCNConv(in_channels, hidden_channels)self.conv2 GCNConv(hidden_channels, out_channels)def forward(self, x, edge_index):print(ffirst {x.shape})x self.conv1(x, edge_index)print(fconv1 {x.shape})x F.relu(x)x self.conv2(x, edge_index)print(fconv2 {x.shape})return xmodel GCN(in_channelsnum_node_features, hidden_channels16, out_channels1)
optimizer torch.optim.Adam(model.parameters(), lr0.01)
criterion torch.nn.MSELoss()# 训练模型
model.train()
for epoch in range(2):for data in dataloader:optimizer.zero_grad()out model(data.x, data.edge_index)loss criterion(out, data.y)loss.backward()optimizer.step()# 评估模型
model.eval()
with torch.no_grad():for batch in dataloader:out model(batch.x, batch.edge_index)print(out.shape) # 待实现把batch中所有features都拼接起来
写得比较乱最后densedataloader和dataloader都可以专门来写一篇了
