使用 CNTK 测量回归性能
在这里，我们将看看如何使用我们结合 CNTK 讨论的不同指标。我们将使用回归模型，该模型使用下面给出的步骤预测汽车的每加仑英里数。
实施步骤-
第 1 步- 首先，我们需要从cntk包中导入所需的组件，如下所示 -
from cntk import default_option, input_variable
from cntk.layers import Dense, Sequential
from cntk.ops import relu
Step 2 - 接下来，我们需要使用default_options函数定义一个默认激活函数。然后，创建一个新的 Sequential 层集并提供两个 Dense 层，每个层有 64 个神经元。然后，我们将一个额外的 Dense 层（将作为输出层）添加到 Sequential 层集，并在没有激活的情况下给出 1 个神经元，如下所示 -
with default_options(activation=relu):
model = Sequential([Dense(64),Dense(64),Dense(1,activation=None)])
Step 3 - 创建网络后，我们需要创建一个输入特征。我们需要确保它与我们将用于训练的特征具有相同的形状。
features = input_variable(X.shape[1])
第 4 步- 现在，我们需要创建另一个大小为 1 的input_variable。它将用于存储 NN 的预期值。
target = input_variable(1)
z = model(features)
现在，我们需要训练模型，为此，我们将拆分数据集并使用以下实现步骤执行预处理 -
第 5 步- 首先，从 sklearn.preprocessing 导入 StandardScaler 以获取 -1 和 +1 之间的值。这将帮助我们对抗 NN 中的梯度爆炸问题。
from sklearn.preprocessing import StandardScalar
第 6 步- 接下来，从 sklearn.model_selection 导入 train_test_split，如下所示 -
from sklearn.model_selection import train_test_split
第 7 步-使用drop方法从数据集中删除mpg列。最后使用train_test_split函数将数据集拆分为训练和验证集，如下所示 -
x = df_cars.drop(columns=[‘mpg’]).values.astype(np.float32)
y=df_cars.iloc[: , 0].values.reshape(-1, 1).astype(np.float32)
scaler = StandardScaler()
X = scaler.fit_transform(x)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)
第 8 步- 现在，我们需要创建另一个大小为 1 的 input_variable。它将用于存储 NN 的预期值。
target = input_variable(1)
z = model(features)
我们已经对数据进行了拆分和预处理，现在我们需要训练 NN。正如前面章节在创建回归模型时所做的那样，我们需要定义损失函数和度量函数的组合来训练模型。
import cntk
def absolute_error(output, target):
return cntk.ops.reduce_mean(cntk.ops.abs(output – target))
@ cntk.Function
def criterion_factory(output, target):
loss = squared_error(output, target)
metric = absolute_error(output, target)
return loss, metric
现在，让我们看看如何使用训练好的模型。对于我们的模型，我们将使用criteria_factory 作为损失和度量的组合。
from cntk.losses import squared_error
from cntk.learners import sgd
from cntk.logging import ProgressPrinter
progress_printer = ProgressPrinter(0)
loss = criterion_factory (z, target)
learner = sgd(z.parameters, 0.001)
training_summary=loss.train((x_train,y_train),parameter_learners=[learner],callbacks=[progress_printer],minibatch_size=16,max_epochs=10)
完整的实现示例
from cntk import default_option, input_variable
from cntk.layers import Dense, Sequential
from cntk.ops import relu
with default_options(activation=relu):
model = Sequential([Dense(64),Dense(64),Dense(1,activation=None)])
features = input_variable(X.shape[1])
target = input_variable(1)
z = model(features)
from sklearn.preprocessing import StandardScalar
from sklearn.model_selection import train_test_split
x = df_cars.drop(columns=[‘mpg’]).values.astype(np.float32)
y=df_cars.iloc[: , 0].values.reshape(-1, 1).astype(np.float32)
scaler = StandardScaler()
X = scaler.fit_transform(x)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)
target = input_variable(1)
z = model(features)
import cntk
def absolute_error(output, target):
return cntk.ops.reduce_mean(cntk.ops.abs(output – target))
@ cntk.Function
def criterion_factory(output, target):
loss = squared_error(output, target)
metric = absolute_error(output, target)
return loss, metric
from cntk.losses import squared_error
from cntk.learners import sgd
from cntk.logging import ProgressPrinter
progress_printer = ProgressPrinter(0)
loss = criterion_factory (z, target)
learner = sgd(z.parameters, 0.001)
training_summary=loss.train((x_train,y_train),parameter_learners=[learner],callbacks=[progress_printer],minibatch_size=16,max_epochs=10)
输出
-------------------------------------------------------------------
average since average since examples
loss last metric last
------------------------------------------------------
Learning rate per minibatch: 0.001
690 690 24.9 24.9 16
654 636 24.1 23.7 48
[………]
为了验证我们的回归模型，我们需要确保模型处理新数据的效果与处理训练数据的效果一样好。为此，我们需要使用测试数据调用损失和度量组合的测试方法，如下所示 -
loss.test([X_test, y_test])
输出-
{'metric': 1.89679785619, 'samples': 79}
这里，预测值= 用帽子表示 y实际值= 由 y 预测首先，我们需要计算预测值和真实值之间的距离。然后，要获得总体错误率，我们需要将这些平方距离相加并计算平均值。这称为均方误差函数。但是，如果我们想要表达误差范围的性能数据，我们需要一个表达绝对误差的公式。平均绝对误差函数的公式如下 -
上面的公式取预测值和实际值之间的绝对距离。