【机器学习】习题

试论述学习率的取值对神经网络训练的影响。

答：学习率太高会导致误差函数来回震荡无法收敛；学习率太低会导致收敛太慢，影响训练效率。

正样本点是$x_1=(3,3{)}^T$和$x_2=(4,3{)}^T$，负样本点是$x_3=(1,1{)}^T$，求解感知机模型，初始参数取$0$。

答：维度增广：$x_1=(3,3,1{)}^T$、$x_2=(4,3,1{)}^T$、$x_3=(1,1,1{)}^T$

简述神经网络需要激活函数的原因，并比较sigmoid、tanh、ReLU分别作为激活函数的效果有何区别。

答：激活函数为神经网络引入了非线性，能提高网络对模型的表达能力，解决线性模型所不能解决的问题。

根据图示分界线给出与门神经网络的参数$w_1$、$w_2$、$b$。

答：$y=\text{sign}(u_1+u_2-1.5)$，因此$w_1=1$、$w_2=1$、$b=-1.5$

对下面的梯度下降算法步骤进行排序：

a.计算预测值和真实值之间的误差

b.重复迭代，直至得到网络权重的最佳值

c.把输入传入网络，得到输出值

d.用随机值初始化权重和偏差

e.对每一个产生误差的神经元，调整相应的权重值以减小误差

答：dcaeb

下列哪一项在神经网络中引入了非线性？

a.随机梯度下降

b.修正线性单元(Rectified Linear Unit, ReLU)

c.卷积函数

答：b

在感知机中的任务顺序是什么？

a.随机初始化感知机的权重

b.去到数据集的下一批(batch)

c.如果预测值和输出不一致，则调整权重

d.对一个输入样本，计算输出值

答：adcb

下列哪个函数不可以做激活函数？

a.$y=\tanh (x)$

b.$y=\sin (x)$

c.$y=\max (x,0)$

d.$y=2x$

答：d

下列关于神经元的描述中，哪一项是正确的？

a.每个神经元可以有一个输入和一个输出

b.每个神经元可以有多个输入和一个输出

c.每个神经元可以有一个输入和多个输出

d.每个神经元可以有多个输入和多个输出

答：d

如果用了一个过大的学习速率会发生什么？

a.神经网络会收敛

b.神经网络不会收敛

c.不确定

d.都不对

答：b

在训练神经网络时，损失函数在最初的几个时没有下降，可能的原因是？

答：学习率太低；正则参数太高；陷入局部最优值等。

批规范化(Batch Normalization)的好处有？

a.让每一层的输入的范围都大致固定

b.它将返回权重的归一化平均值和标准差

c.它是一种非常有效的反向传播方法

d.这些均不是

答：a

在一个神经网络中，下面哪种方法可以用来处理过拟合？

a.Dropout

b.Batch Normalization

c.正则化

d.以上都可以

答：d

考虑某个具体问题时，你可能只有少量数据来解决这个问题。不过幸运的是你有一个类似问题已经预先训练好的神经网络。可以用下面哪种方法来利用这个预先训练好的网络？

a.把除了最后一层外所有的层都冻结，重新训练最后一层

b.对新数据重新训练整个模型

c.只对最后几层进行调参(fine-tuning)

d.对每一层模型进行评估，选择其中的少数来使用

答：c

对于一个分类任务，如果开始时神经网络的权重不是随机赋值的，而是都设成$0$，下面哪个叙述是正确的？

a.神经网络会正常开始训练

b.神经网络可以训练，但是所有的神经元最后都会变成识别同样的东西

c.神经网络不会开始训练，因为没有梯度改变

d.都不对

答：c

为了避免开始训练时神经网络卡在局部最小值里，我们可以采取下面哪种策略？

a.改变学习速率，比如一开始的几个训练周期不断更改学习速率

b.一开始将学习速率减小$10$倍，然后用动量项

c.增加参数数目，这样神经网络就不会卡在局部最优处

d.都不对

答：a

下列的哪种方法可以用来降低深度学习模型的过拟合问题？

1.增加更多的数据

2.使用数据增广(data augmentation)

3.使用归纳性更好的架构

4.正则化数据

5.降低架构的复杂度

答：12345

当训练一个神经网络来作图像识别任务时，通常会绘制一张训练集误差和交叉训练集误差图来进行调试。在图中，最好在哪个时间停止训练？

答：c

下面哪些叙述是对的？

1.可以通过将所有权重初始化为$0$来训练网络

2.可以通过将偏差初始化为$0$来很好地训练网络

答：2

如果我们希望预测$n$个类的概率使得所有概率和等于$1$，那么下列哪个函数可以用作输出层中的激活函数？

a.Softmax

b.ReLU

c.Sigmoid

d.Tanh

答：a

使用批量归一化可以解决神经网络训练中的哪些问题？

a.过拟合

b.限制输出过大或过小

c.训练过慢

d.以上所有

答：d

我们可以采取哪些措施来防止神经网络中的过拟合？

a.数据增强

b.权重共享

c.提前停止

d.Dropout

e.以上所有

答：e

以下模型中，在数据预处理时，不需要考虑归一化处理的是：

a.logistic回归

b.SVM

c.树形模型

d.神经网络

答：c

BN层有两个可学习参数：拉伸参数$\gamma$和偏移参数$\beta$，它们的形状与$x$相同。请写出经过批量归一化转换后的$x$表达式。

答：

简述Dropout能够防止过拟合的原因。

答：

BN和Dropout一般不会同时使用，请简述原因。

答：

假设Dropout概率为$p$，为了保证期望值不变，在测试时，该层模型权重$w$应该变为？

答：$(1-p)w$

设模型初始参数${\theta }_0=(0.1,0.2{)}^T$，学习率为$\eta =0.1$，动量更新权重为$\lambda =1$，若模型在两次训练过程中的梯度依次为$g_0=(2,-1{)}^T$、$g_1=(1,-2{)}^T$，求两次训练后模型的参数${\theta }_2$。

答：动量法参数更新公式为$m^{\prime }\leftarrow \lambda m-\eta g,w^{\prime }\leftarrow w+m$

第一次训练：
$m_0=(0,0{)}^T$
$m_1=m_0-0.1g_0=(-0.2,0.1{)}^T$
${\theta }_1={\theta }_0+m_1=(-0.1,0.3{)}^T$

第二次训练：
$m_2=m_1-0.1g_1=(-0.3,0.3{)}^T$
${\theta }_2={\theta }_1+m_2=(-0.4,0.6{)}^T$

填充在卷积操作中的作用是：

答：可以增加输出的大小，从而使得卷积层能够更好地保留输入数据的边缘信息。

神经网络反向传播的过程中，梯度计算通常使用什么算法？

答：链式法则。

在反向传播中，激活函数的导数被用来计算（）。

答：神经元的局部梯度。

反向传播中的损失函数对于输出层的梯度计算通常使用（）。

答：交叉熵。

Batch Normalization中反向传播的过程涉及到计算对于输入的梯度，该梯度计算通常需要计算均值和方差的（）。

答：梯度。

反向传播中的优化算法，如随机梯度下降的更新规则是通过将参数沿着（）进行更新。

答：梯度的负方向。

卷积神经网络中的卷积层和池化层分别用于什么目的？

a.特征提取和降采样

b.特征降维和特征映射

c.激活函数和正则化

d.参数初始化和反向传播

答：a

在卷积神经网络中，填充的作用是什么？

a.增加输出特征图的尺寸

b.防止卷积操作导致边缘信息丢失

c.减少模型的参数数量

d.提高模型的训练速度

答：b

在卷积神经网络的反向传播中，梯度下降的目标是调整什么参数？

a.输入数据

b.权重和偏置

c.激活函数的阈值

d.卷积核的尺寸

答：b

反向传播中的卷积操作涉及哪些参数的梯度更新？

a.输入数据

b.卷积核的权重

c.池化层的输出

d.批量归一化的参数

答：b

反向传播中的池化层的梯度是如何传播的？

答：在最大池化中，反向传播时梯度会被传递给池化层输入中最大值所对应的位置，而其他位置的梯度为零；在平均池化中，反向传播时梯度会均匀分配给池化层输入的所有元素。

判断：步幅越大，池化层输出的特征图尺寸越小。

a.对

b.错

答：a

判断：在卷积神经网络中，通道数指的是卷积核的数量。

a.对

b.错

答：b

卷积神经网络的经典结构有哪些？简单介绍一下近年来具有代表性的深度卷积神经网络的设计思路：

答：有LeNet、AlexNet、VGG、ResNet等。

RNN的基本结构包括三个主要组件，其中（）接收输入序列，（）负责记忆和传递信息，（）产生最终输出。

答：输入层、隐藏层、输出层。

（）可能导致数值溢出，（）可能导致长时依赖问题。应对策略可能包括梯度截断、使用LSTM或GRU等。

答：梯度爆炸、梯度消失。

LSTM中（）决定遗忘多少之前的记忆，（）决定存储多少新的信息，（）决定记忆细胞的哪部分被输出。

答：遗忘门、输入门、输出门。

为什么在某些任务中选择使用RNN而不是其他神经网络结构？

a.处理序列数据

b.具有记忆能力

c.适用于时序关系建模

d.所有选项都正确

答：d

LSTM和GRU是RNN的两种常见变体，它们的主要区别是什么？

a.LSTM有三个门，而GRU只有两个门

b.LSTM具有记忆细胞和输入门

c.GRU相对于LSTM参数更少

d.所有选项都正确

答：d

在训练中，如果梯度爆炸发生，可能会导致什么问题？

a.数值溢出

b.模型参数不稳定

c.训练无法收敛

d.所有选项都正确

答：d

对于长序列的处理，LSTM和GRU相对于传统RNN具有哪些优势？

a.更好地捕捉长时依赖关系

b.减缓梯度消失问题

c.更适用于时间序列建模

d.所有选项都正确

答：d

当训练长序列时，梯度爆炸和梯度消失问题可能变得更加显著。请简要解释为什么会出现这些问题。

答：在长序列中梯度反向传播的时候可能多次相乘，导致指数级增长或减小。

在选择LSTM或GRU时，你会在什么情况下更倾向于选择其中之一？

答：需要更复杂建模能力时选择LSTM，当计算成本和参数量更为重要时选择GRU。

目标函数的构造过程中，生成器的目标是最小化生成样本与（）之间的差异。

答：真实样本。

在生成对抗网络的训练过程中，生成器通过（）来调整生成的样本。

答：梯度下降。

生成对抗网络的目标函数包括以下哪个部分？

a.生成器误差

b.判别器误差

c.生成器和判别器误差

d.目标函数不包括误差

答：c

目标函数的全局最优解表示什么情况？

a.生成器和判别器都失效

b.生成器和判别器都取得最佳效果

c.生成器失效，判别器最优

d.判别器失效，生成器最优

答：b

在生成对抗网络的训练中，判别器的任务是？

a.最大化生成样本的相似度

b.最小化生成样本的相似度

c.区分真实样本和生成样本

d.不参与训练

答：c

生成对抗网络的训练过程中，生成器的优化目标是？

a.最大化生成样本的相似度

b.最小化生成样本的相似度

c.欺骗判别器，使其无法区分真实样本和生成样本

d.保持生成样本的多样性

答：c

生成对抗网络的训练中，为什么需要协调生成器和判别器的训练？

a.使生成器过拟合

b.保持判别器过拟合

c.实现平衡，避免其中一个过于强大

d.判别器不需要训练

答：c

在生成对抗网络中，使用哪种损失函数来衡量生成器生成样本的质量？

a.交叉熵损失

b.均方误差损失

c.对抗损失

d.KL散度损失

答：c

对传统生成对抗网络有哪些改进方法？

答：传统GAN存在的问题：

一些其他的改进：

最优动作价值函数依赖于（）。

答：状态、行动。

DQN是对（）的近似。

答：Q函数。

驾车按照“甲、乙、丙”行驶，从甲地出发，模型预计需要行驶$20$小时，实际行驶$6$小时到达乙地，模型预计还需$12$个小时到达丙地，如果我们用TD算法更新模型，TD目标$y$小时，TD绝对误差值$|\delta |$小时。$y$和$|\delta |$是多少？

答：$y=18$、$|\delta |=2$。

设$A=\{上,下,左,右\}$为动作空间，$s_t$为当前状态，$\pi$为策略函数，其输出：
$\pi (上|s_t)=0.2$
$\pi (下|s_t)=0.05$
$\pi (左|s_t)=0.7$
$\pi (右|s_t)=0.15$
请问，哪个动作会成为$a_t$?

a.下

b.左

c.都有可能

答：c

设随机变量$U_t$为$t$时刻的回报，请问$U_t$依赖于哪些变量？

a.$t$时刻的状态$S_t$

b.$t$时刻的动作$A_t$

c.$S_t$和$A_t$

d.$S_t,S_{t+1},S_{t+2}\dots$和$A_t,A_{t+1},A_{t+2}\dots$

答：d

动作价值函数是什么的期望？

a.奖励

b.回报

c.状态

d.动作

答：b

设$A=\{上,下,左,右\}$为动作空间，$s_t$为当前状态，$Q^{\ast }$为最优动作价值函数，其输出：
$Q^{\ast }(s_t,上)=930$
$Q^{\ast }(s_t,下)=-60$
$Q^{\ast }(s_t,左)=120$
$Q^{\ast }(s_t,右)=321$
请问，哪个动作会成为$a_t$?

a.上

b.下

c.都有可能

答：a

DQN的输出层用什么激活函数？

a.不需要激活函数，因为$Q$值可正可负，没有取值范围

b.用sigmoid激活函数，因为$Q$值介于$0$和$1$之间

c.用ReLU激活函数，因为$Q$值非负

d.用SoftMax激活函数，因为DQN的输出是一个概率分布

答：a

DQN是基于什么的强化学习方法？

a.基于价值的方法

b.基于策略的方法

c.基于模型的方法

d.基于探索的方法

答：a

TD gradient是与哪种强化学习方法相关的概念

a.基于价值的方法

b.基于策略的方法

c.基于模型的方法

d.基于探索的方法

答：a

在强化学习中，基于策略的方法主要关注什么？

a.最大化奖励

b.最小化损失

c.直接学习值函数

d.直接学习策略函数

答：d

什么是半监督学习？它与监督学习和无监督学习有什么区别？

答：

解释图半监督学习的基本思想和过程。

答：基于相似的样本具有相同标签的假设，构建图结构，利用节点标签扩散，将已标记样本根据样本特征的相似性进行扩散，获得未标记样本的标记。过程包括：图表示、初始化标签、标签传播、学习模型、分类预测。

什么是半监督聚类？它与传统聚类方法有何不同？

答：在拥有部分额外有标签数据时，可利用监督信息改善聚类效果，传统聚类方法通常只使用无标签的数据进行聚类。

什么是“伪标签”？它在半监督学习中的作用是什么？

答：“伪标签”是一种半监督学习中的策略，通过使用已训练模型对未标记数据进行预测，并将这些预测结果作为“伪标签”来扩充训练数据。优点是可以扩充训练数据，引入额外信息；但是要注意误差传播的问题。

在半监督学习中，使用无标签数据的目的是什么？

a.提高模型的泛化能力

b.提高模型的复杂性

c.减少训练时间

d.提高模型的准确性

答：a

自训练中的熵正则化的主要目的是什么？

a.降低模型的泛化能力

b.提高模型的复杂性

c.减少模型对于伪标签的过度自信

d.增加模型对于有标签数据的权重

答：c

在半监督SVM中，无标签数据如何被整合到模型训练中？

a.忽略无标签数据

b.将无标签数据视为异常数据

c.使用无标签数据构造额外的约束条件

d.仅使用无标签数据进行训练

答：c

图半监督学习中，如何利用无标签节点的信息？

a.忽略无标签节点

b.使用无标签节点的邻居信息

c.将无标签节点视为噪声

d.使用无标签节点的标签进行训练

答：b

基于分歧的半监督学习中，分歧是指什么？

a.模型的复杂度

b.模型的准确性

c.模型在相似输入上的不一致性

d.模型的泛化能力

答：c

什么是迁移学习？请简要描述其定义和主要思想。

答：迁移学习是指利用数据、任务或模型之间的相似性，将在旧领域学习过的模型，应用于新领域的一种学习过程。迁移学习提供了一种将预训练模型在自己数据集上进行微调的技术。核心思路是找到源域和目标域之间的差异性，并将整体工作归为两方面：一是度量两个领域的相似性，不仅定性，还能定量的给出相似程度；二是以度量为准则，通过我们所采用的学习手段增大两个领域之间的相似性，完成迁移学习。

请解释“领域”在迁移学习中的概念。

答：领域是机器学习的主体，主要由两个部分构成：数据和生成这些数据的概率分布。

什么是领域自适应？请简要描述其基本原理。

答：领域自适应旨在解决在源域上训练的模型在目标域上性能下降的问题。在领域自适应中，源域和目标域通常具有不同的分布或特性，例如，它们可能来自不同的传感器、环境或任务。

基本原理包括：

什么是源域和目标域？什么是领域间距离，如何度量？

答：源域是模型在训练阶段接触到的领域，通常具有相对丰富的标记数据。目标域是模型在测试阶段面对的领域，通常没有或有很少的标记数据。将源域和目标域的差异性视为两个域内样本数据的概率分布的差异性进行研究，根据采用显式或隐式的距离度量分为两类：

迁移学习的三个基本类型是？

答：

什么是相似度函数，相似度函数学习的基本思想是什么？

答：相似度函数是用于度量两个对象之间相似程度的函数。在机器学习和数据挖掘中，相似度函数通常用于比较两个样本、文档、图像或其他数据表示的对象之间的相似性。相似度函数的设计直接影响了模型的性能，因为它定义了模型对相似性的理解。在迁移学习中，相似度函数可以用于度量源域和目标域之间的相似性，或者度量不同任务之间的相似性。基本思想是从大规模训练数据集中学习一个相似度函数，将相似度函数用于预测，通过对比查询样本与支持集每一个样本的相似度，找到得分最高的那个。

请介绍相似度函数学习的流程，并解释孪生网络和三元组损失。

答：流程为：

孪生网络是一种特殊的神经网络结构，有两个相同的子网络，它们共享相同的权重。这两个子网络分别处理输入样本，然后通过一个比较层将两个子网络的输出进行比较。孪生网络的训练目标是使得相似的样本在比较层中的距离较小，而不相似的样本的距离较大。对比损失是孪生网络中常用的损失函数。

三元组损失是一种用于训练相似度学习模型的损失函数，通常与三元组网络一起使用。在一个三元组中，包含一个锚点样本、一个正样本和一个负样本。三元组损失的目标是通过拉近锚点样本和正样本之间的距离，并推远锚点样本和负样本之间的距离，从而学到一个能够准确衡量相似性的模型。