-
Notifications
You must be signed in to change notification settings - Fork 37
Expand file tree
/
Copy pathquiz.json
More file actions
62 lines (62 loc) · 2.61 KB
/
Copy pathquiz.json
File metadata and controls
62 lines (62 loc) · 2.61 KB
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
[
{
"question": "PyTorch 中的 autograd 是什么?",
"options": [
"一个数据加载库",
"一个自动微分引擎,它记录运算并计算梯度,无需手动实现反向传播",
"一个模型压缩工具",
"一个超参数调优框架"
],
"correct": 1,
"explanation": "PyTorch 的 autograd 在前向计算过程中构建计算图,并在你调用 .backward() 时自动计算梯度。这免去了在每个模块中手动实现 backward() 的需要。",
"stage": "pre"
},
{
"question": "torch.no_grad() 做什么,你应该在什么时候使用它?",
"options": [
"它防止过拟合",
"它在推理时禁用梯度追踪,在你不需要训练时节省内存和计算",
"它冻结所有模型权重",
"它启用 GPU 加速"
],
"correct": 1,
"explanation": "在推理时你不需要梯度。torch.no_grad() 禁用梯度追踪,从而节省本会用于存储计算图的内存并加快计算。",
"stage": "pre"
},
{
"question": "在 PyTorch 中 nn.Linear(784, 256) 创建了什么?",
"options": [
"一个 ReLU 激活层",
"一个全连接层,带有一个 (256, 784) 的权重矩阵和一个 (256,) 的偏置向量",
"一个 p=784/256 的 dropout 层",
"一个批归一化层"
],
"correct": 1,
"explanation": "nn.Linear(in_features, out_features) 创建一个计算 y = x @ W^T + b 的层,其中 W 的形状为 (256, 784),b 的形状为 (256,)。这是你从零构建的 Layer 类在 PyTorch 中的等价物。",
"stage": "post"
},
{
"question": "哪个 PyTorch 方法为计算图中的所有参数计算梯度?",
"options": [
"optimizer.step()",
"model.forward()",
"loss.backward()",
"optimizer.zero_grad()"
],
"correct": 2,
"explanation": "loss.backward() 反向遍历计算图,为每个需要梯度的参数 p 计算 dL/dp。随后 optimizer.step() 使用这些梯度来更新参数。",
"stage": "post"
},
{
"question": "为什么 PyTorch 的训练循环比纯 Python 的迷你框架快得多?",
"options": [
"PyTorch 使用了不同的算法",
"PyTorch 把运算作为优化过的 C++/CUDA 内核在 GPU 上运行,而纯 Python 循环是逐个运算被解释执行的",
"PyTorch 使用更小的数据类型",
"PyTorch 跳过了反向传播"
],
"correct": 1,
"explanation": "PyTorch 把矩阵运算交给高度优化的 C++ 和 CUDA 内核,它们在 GPU 上以大规模并行运行。纯 Python 则顺序执行循环,每个运算都带有解释器开销。",
"stage": "post"
}
]