深度学习专项课程(第四周)

深度学习专项课程(第四周)

本周内容很大一部分与前一周内容重合,重复内容此处不再赘述,这里简单记录新的内容。

为什么使用深层神经网络

深度神经网络可以解决很多问题,其实并不需要很大的神经网络,但是需要有深度。深度的神经网络可以学习更复杂的函数。
Andrew Ng 在课程中列举了两个例子来解释为什么使用深层神经网络,有兴趣的同学可以参考。

参数与超参数

参数

$W^{[1]},b^{[1]},W^{[2]},b^{[2]},W^{[3]},b^{[3]}……$

超参数

超参数中的数值需要我们自己设置,而参数 W ,b 的数值将由这些超参数来决定,所以被称为超参数。

  • 学习率
  • 梯度下降法循环的次数
  • 隐层数
  • 隐层节点数
  • 激活函数 ReLU 或 sigmoid

这与大脑有什么关系

深度学习和大脑有什么关联性呢? Andrew Ng 认为关系不大。
有时会把深度学习中的神经元和生物中的神经元进行类比,但生物中的神经元到底是如何进行工作的,至今为止神经科学家们都很难解释。所以,目前人们在减少神经网络与人类大脑的对比。


Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×