PyTorch之张量创建与运算

PyTorch 主要有以下几个基础概念：张量（Tensor）、自动求导（Autograd）、神经网络模块（nn.Module）、优化器（optim）等。

• 张量（Tensor）：PyTorch 的核心数据结构，支持多维数组，并可以在 CPU 或 GPU 上进行加速计算。

• 自动求导（Autograd）：PyTorch 提供了自动求导功能，可以轻松计算模型的梯度，便于进行反向传播和优化。

• 神经网络（nn.Module）：PyTorch 提供了简单且强大的 API 来构建神经网络模型，可以方便地进行前向传播和模型定义。

• 优化器（Optimizers）：使用优化器（如 Adam、SGD 等）来更新模型的参数，使得损失最小化。

• 设备（Device）：可以将模型和张量移动到 GPU 上以加速计算。

张量（Tensor）

张量（Tensor）是 PyTorch 中的核心数据结构，用于存储和操作多维数组。张量可以视为一个多维数组，支持加速计算的操作。

• 维度（Dimensionality）：张量的维度指的是数据的多维数组结构。例如，一个标量（0维张量）是一个单独的数字，一个向量（1维张量）是一个一维数组，一个矩阵（2维张量）是一个二维数组，以此类推。

• 形状（Shape）：张量的形状是指每个维度上的大小。例如，一个形状为(3, 4)的张量意味着它有3行4列。

• 数据类型（Dtype）：张量中的数据类型定义了存储每个元素所需的内存大小和解释方式。PyTorch支持多种数据类型，包括整数型（如torch.int8、torch.int32）、浮点型（如torch.float32、torch.float64）和布尔型（torch.bool）。

张量创建

import torch
import numpy as np

# 创建张量2x3的全0张量
a = torch.zeros(2, 3)
print("\n创建张量2x3的全0张量:")
print(a)

# 创建张量2x3的全1张量
b = torch.ones(2, 3)
print("\n创建张量2x3的全1张量:")
print(b)

# 创建张量2x3的随机数张量
c = torch.rand(2, 3)
print("\n创建张量2x3的随机数张量:")
print(c)

# 从Numpy数组创建张量
numpy_array = np.array([[1,2],[3,4]])
tensor_d = torch.from_numpy(numpy_array)
print("\n从Numpy数组创建张量:")
print(tensor_d)


# 在指定device(CPU, GPU)上创建张量
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
e = torch.rand(2, 3).to(device)
print("\n在指定device(CPU, GPU)上创建张量:")
print(e)

创建结果：

张量运算

import torch
import numpy as np

aa = torch.rand(2, 3)
print(aa)
bb = torch.rand(3, 4)
print(bb)
dd = torch.rand(2, 3)
print(dd)

print("\n aa+dd：") #加减法的时候张量要一样大小
print(aa + dd)

print("\n aa-dd：")
print(aa - dd)

print("\n aa*dd：")
print(aa * dd)

cc = torch.rand(2, 3)
print("\n cc：")
print(cc)
print("\n cc 维度调换：")
print(cc.t()) # 等同于cc.transpose(0, 1)

print("\n cc shape：")
print(cc.shape)

print("\n aa*bb：")
print(aa * bb)

运算结果， 注意两个张量维度要一致