1、均方误差作为损失函数，这时所构造出来的损失函数是非凸的，不容易求解，容易得到其局部最优解；而交叉熵的损失函数是凸函数；
2、均方误差作为损失函数，求导后，梯度与sigmoid的导数有关，会导致训练慢；而交叉熵的损失函数求导后，梯度就是一个差值，误差大的话更新的就快，误差小的话就更新的慢点。
Adam算法即自适应时刻估计方法（Adaptive Moment Estimation），能计算每个参数的自适应学习率。这个...
Read More >
由广东公务员考试网广东公务员栏目由提供，更多关于2018广东公务员面试,2018广东公务员,广东公务员广东公务员的内容，请关注广东公务员考试频道广东公务员考试网！
日前，国家新闻出版广电部门发布《关于进一步规范网络视听节目传播秩序的通知》(下称通知)，为“恶搞视频”等网络视听节目立规矩。通知指出，近期一些网络视听节目制作、播出不规范的问题十分突出，有的节目歪曲、恶搞、丑化经典文艺作品;有的节目擅自截取拼接经典文艺作品、广播影视节目和网络原...
Read More >
因为最优的参数值很大概率出现在坐标轴上，这样就会导致某一维的权重为0 ，产生稀疏权重矩阵
最优的参数值很小概率出现在坐标轴上，因此每一维的参数都不会是0。当最小化w时，就会使每一项趋近于0。
L2的作用是为了使模型更平滑，得到更好的泛化能力。假设的是参数是满足高斯分布。
该题为leetcode153题：数组不包含重复元素，并且只要当前的区间长度不为 1，pivot 就不会与...
Read More >