学习资料1：https://pan.baidu.com/s/1rcWuaQfVEoVozj6AuaBdvA 提取码：zo4u
学习资料2：https://share.weiyun.com/nsgcbkza 密码：grban3
一、Pytorch功能
PyTorch是一个基于Torch的Python开源机器学习库，用于自然语言处理等应用程序。它主要由Facebookd的人工智能小组开发，不仅能够 实现强大的GPU加速，同时还支持动态神经网络，这一点是现在很多主流框架如TensorFlow都不支持的。
PyTorch提供了两个高级功能：
具有强大的GPU加速的张量计算（如Numpy）
包含自动求导系统的深度神经网络 除了Facebook之外，Twitter、GMU和Salesforce等机构都采用了PyTorch。
Torch是一个有大量机器学习算法支持的科学计算框架，是一个与Numpy类似的张量（Tensor） 操作库，其特点是特别灵活，但因其采用了小众的编程语言是Lua，所以流行度不高，这也就有了PyTorch的出现。所以其实Torch是 PyTorch的前身，它们的底层语言相同，只是使用了不同的上层包装语言。
PyTorch是一个基于Torch的Python开源机器学习库，用于自然语言处理等应用程序。它主要由Facebookd的人工智能小组开发，不仅能够 实现强大的GPU加速，同时还支持动态神经网络，这一点是现在很多主流框架如TensorFlow都不支持的。 PyTorch提供了两个高级功能： * 具有强大的GPU加速的张量计算（如Numpy） * 包含自动求导系统的深度神经网络
二、Pytorch使用场景
1. 图像和语音识别
PyTorch在图像和语音识别领域得到了广泛应用，包括对图像进行分类、目标检测、语音情感识别等。
2. 自然语言处理
PyTorch在自然语言处理领域也有很多应用，包括对文本进行分类、情感分析、机器翻译等。
3. 机器学习
PyTorch也可以用于传统机器学习问题，例如分类、回归等问题。
4. 深度学习教学和研究
PyTorch使用简单，易于理解，适合用来进行深度学习教学和研究。
三、训练流程
准备好数据和网络之后，就可以开始训练模型了，训练的过程分为train和test，其中train做训练，test做验证。
训练的过程包括3个超参数
Epochs - 迭代数据集的次数，也就是说对数据集进行了多少次迭代
Batch Size - 一次训练的样本数
Learning Rate - 学习率。 较小的值会导致学习速度变慢，而较大的值可能会导致训练过程中出现不可预测的行为。
learning_rate = 1e-3
batch_size = 64
epochs = 5
def train_loop(dataloader, model, loss_fn, optimizer):
size = len(dataloader.dataset)
for batch, (X, y) in enumerate(dataloader):
# Compute prediction and loss
pred = model(X)
loss = loss_fn(pred, y)
# Backpropagation
optimizer.zero_grad()
loss.backward()
optimizer.step()
if batch % 100 == 0:
loss, current = loss.item(), batch * len(X)
print(f"loss: {loss:>7f} [{current:>5d}/{size:>5d}]")
def test_loop(dataloader, model, loss_fn):
size = len(dataloader.dataset)
num_batches = len(dataloader)
test_loss, correct = 0, 0
with torch.no_grad():
for X, y in dataloader:
pred = model(X)
test_loss += loss_fn(pred, y).item()
correct += (pred.argmax(1) == y).type(torch.float).sum().item()
test_loss /= num_batches
correct /= size
print(f"Test Error: \n Accuracy: {(100*correct):>0.1f}%, Avg loss: {test_loss:>8f} \n")
loss_fn = nn.CrossEntropyLoss()
optimizer = torch.optim.SGD(model.parameters(), lr=learning_rate)
epochs = 10
for t in range(epochs):
print(f"Epoch {t+1}\n-------------------------------")
train_loop(train_dataloader, model, loss_fn, optimizer)
test_loop(test_dataloader, model, loss_fn)
print("Done!")
模型保存和加载
通过pytorch可以保存和加载训练好的模型。
在 PyTorch 中，torch.nn.Module 模型的可学习参数（即权重和偏差）包含在模型的参数中（通过 model.parameters() 访问）。state_dict 是一个 Python 字典对象，它保存了模型每一层的参数。
# Print model's state_dict
print("Model's state_dict:")
for param_tensor in model.state_dict():
print(param_tensor, "\t", model.state_dict()[param_tensor].size())
打印结果如下
Model's state_dict:
conv1.weight torch.Size([6, 3, 5, 5])
conv1.bias torch.Size([6])
conv2.weight torch.Size([16, 6, 5, 5])
conv2.bias torch.Size([16])
fc1.weight torch.Size([120, 400])
fc1.bias torch.Size([120])
fc2.weight torch.Size([84, 120])
fc2.bias torch.Size([84])
fc3.weight torch.Size([10, 84])
fc3.bias torch.Size([10])
四、总结
至此，pytorch的基本使用就介绍完成了，可以看出结合深度学习网络pytorch提供了非常好用的接口，帮助我们创建网络、加载数据、训练和部署等，极大的提高了深度学习的效率，后面我们将结合具体的例子对pytorch的使用做一个介绍。
有疑问加站长微信联系（非本文作者）
