AlexNet模型是Hinton的学生Alex Krizhevsky在2012年提出来的。AlexNet包含了几个比较新的技术点，也首次在CNN中成功应用了ReLU、Dropout和LRN等Trick。 AlexNet主要使用的新技术点如下： （1）成功使用ReLU作为CNN的激活函数，并验证其效果在较深的网络超过了sigmoid，解决了sigmoid在网络较深时的梯度弥散问题。 （2）训练时使用dropout随机忽略一部分神经元，以避免过拟合，主要是最后几个全连接层使用了dropout。 （3

1. 函数求一阶导 import tensorflow as tf tf.enable_eager_execution() tfe=tf.contrib.eager from math import pi def f(x): return tf.square(tf.sin(x)) assert f(pi/2).numpy()==1.0 sess=tf.Session() grad_f=tfe.gradients_function(f) print(grad_f(np.zeros(1))[0