PyTorch中多项分布中随机采样（multinomial）和张量范数（norm）函数使用详解

torch.multinomial 是 PyTorch 中用于从多项分布中随机采样的函数，常用于按照给定的概率分布从候选项中抽取若干个索引（如下采样点、选择候选项等）。

函数原型：

torch.multinomial(input, num_samples, replacement=False, *, generator=None, out=None) → Tensor

🔹 参数说明：

返回值：

• 返回一个长整型 Tensor，表示按 input 概率分布采样得到的索引值。
• shape 为 (num_samples,) 或 (batch_size, num_samples)。

示例 1：从概率分布中采样索引

import torch

probs = torch.tensor([0.1, 0.3, 0.6])  # 概率和为 1，不要求必须归一化，但必须非负
sample = torch.multinomial(probs, 2, replacement=False)
print(sample)

可能输出：

tensor([1, 2])  # 表示采样到了索引 1 和 2

示例 2：批量采样

batch_probs = torch.tensor([[0.2, 0.5, 0.3],
                            [0.1, 0.1, 0.8]])

samples = torch.multinomial(batch_probs, 2, replacement=True)
print(samples)

可能输出：

tensor([[1, 2],
        [2, 2]])

常见用途：

注意事项：

• input 不必须是归一化的概率（即不要求总和为 1），但 必须是非负的实数。
• 如果 replacement=False，且 num_samples > input 中非零元素个数，将报错。

torch.norm 是 PyTorch 中用于计算张量范数（norm）的函数，它支持 各种范数类型（L1、L2、无穷范数、Frobenius 范数等），可以灵活指定维度、保持维度形状。

一、函数定义

torch.norm(input, p='fro', dim=None, keepdim=False, out=None, dtype=None) → Tensor

二、常用范数类型说明（p 参数）

三、示例代码

示例 1：向量的 L2 范数（欧几里得范数）

import torch

x = torch.tensor([3.0, 4.0])
norm = torch.norm(x, p=2)
print(norm)  # 输出: tensor(5.0000)

示例 2：矩阵 Frobenius 范数（默认）

A = torch.tensor([[1.0, 2.0], [3.0, 4.0]])
frob = torch.norm(A)  # 等价于 torch.norm(A, p='fro')
print(frob)  # 输出: tensor(5.4772)

计算公式：

$$\Vert A{\Vert }_F=\sqrt{1^2+2^2+3^2+4^2}=\sqrt{30}\approx 5.4772$$

示例 3：对某一维计算 L1 范数

B = torch.tensor([[1.0, -2.0], [-3.0, 4.0]])
l1 = torch.norm(B, p=1, dim=1)
print(l1)  # 输出: tensor([3., 7.])

含义：
按行计算 L1 范数
行1: |1| + |−2| = 3
行2: |−3| + |4| = 7

示例 4：保留维度 keepdim=True

x = torch.tensor([[3.0, 4.0]])
l2 = torch.norm(x, p=2, dim=1, keepdim=True)
print(l2)  # 输出: tensor([[5.]])

保留维度，输出形状仍为 (1, 1)。

示例 5：计算批次向量的 L2 范数

batch = torch.tensor([[3., 4.], [5., 12.]])  # shape: [2, 2]
norms = torch.norm(batch, p=2, dim=1)
print(norms)  # 输出: tensor([ 5., 13.])

四、常见注意事项

五、总结表