在面对多维输入时,σ函数的输入就变成了:
通常把那两个向量相乘记为z(i);
Mini-Batch (N samples):
pytorch的sigmoid函数是向量计算的,所以直接输入就好;
不直接降维的原因:因为直降1维没有足够神经元学习导致精确度低;
前面8列代表了各种指标,最后的y对应着在解析来的一年里其病情是否会加重;
import torch
#普通的一维输入
class Model1(torch.nn.Module):
#至少要实现下面这两个函数
def __init__(self):
super(Model, self).__init__()
#代表了输入维度为8,输出维度为1
self.linear = torch.nn.Linear(8, 1)
self.sigmoid = torch.nn.Sigmoid()
def forward(self, x):
x = self.linear(x)
return x
#运用Module所构建的模型可以用其自带的backward函数来根据计算图进行逆向传播
#1. 读取数据
import numpy as np
#delimiter表示分隔符,dtype常用32位的浮点数
xy = np.loadtxt('diabetes.csv.gz', delimiter=',', dtype=np.float32)
x_data = torch.from_numpy(xy[:,:-1])
#-1的那个中括号是为了提取出来的结果是个矩阵,而非向量
y_data = torch.from_numpy(xy[:, [-1]])
#2. 设计新模型
class Model(torch.nn.Module):
def __init__(self):
super(Model, self).__init__()
self.linear1 = torch.nn.Linear(8, 6)
self.linear2 = torch.nn.Linear(6, 4)
self.linear3 = torch.nn.Linear(4, 1)
#注意这里用的是nn下的sigmoid,
self.sigmoid = torch.nn.Sigmoid()
def forward(self, x):
x = self.sigmoid(self.linear1(x))
x = self.sigmoid(self.linear2(x))
x = self.sigmoid(self.linear3(x))
return x
model = Model()
#3. 构造损失函数和优化器
#和之前一样
criterion = torch.nn.BCELoss(size_average=True)
optimizer = torch.optim.SGD(model.parameters(), lr=0.1)
#4.
for epoch in range(100):
for i, data in enumerate(train_loader, 0):
# 1.Prepare data
#直接把所有数据全都丢进去就行了
inputs, labels = data
print(inputs, labels)
# 2.Forward
y_pred = model(inputs)
loss = criterion(y_pred, labels)
print(epoch, i, loss.item())
# 3.Backward
optimizer.zero_grad()
loss.backward()
# 4.Update
optimizer.step()
pytorch中提供了大量的激活函数:
torch.nn — PyTorch 1.13 documentation
只用把Model中的self.active改了就可以了;