关于深度学习面试问题
之前面试深度学习岗，问到了的题目觉得答案不太清楚，麻烦各位大佬评论区讨论；
1. batch Norm层有什么缺点（按面试官提示跟batch有关系），优点很明显；
2. FC层链接的神经元，前面有1000个神经元，后面输出了1M（兆）个类别，从而存储参数达到了4G，如何降低参数个数？
3.既然核函数是一种映射，为什么只有高斯核，拉普拉斯核，线性核，其他的核函数映射为什么不行？
#阿里巴巴##腾讯##百度##算法工程师#
2017-09-08 15:32 已编辑 合肥工业大学 算法工程师
关注
全部评论
rommelyy
中国科学院大学 算法工程师
核函数不仅仅是到高维空间的映射，还要做内积，因此需要满足一定的条件
收割不到offer的收割机
中国铁道科学研究院
第二题 可以用稀疏加低秩矩阵 第三题 只要满足半正定则可，为的是使得对偶函数为凸，高手可自己构建矩阵。
西瓜肚子疼
电子科技大学 C++
问题一， 我感觉BN强行对每层特征都中心化可能并不是一个绝对正确的先验吧。 按batch来讲的话，如果batch太小，用moving average去估计global average的偏差可能会比较大，或者数据本身冗余太大， global variance的偏差会比较大。 问题二，会不会和重要采样之类的东西有关啊，这么大的类别输出，你softmax 都很难求。 问题三，核函数的话，我记得有个理论说只要kernel满足某些条件就有一个内积结构与之对应(西瓜书上好像有)，所以这个题目会不会有点问题？
牛客7311123 楼主
楼主 合肥工业大学 算法工程师
第三题，核函数还有更高层的抽象意义么
牛客7311123 楼主
楼主 合肥工业大学 算法工程师
对于问题二， 在存储时，做矩阵UV分解，稀疏存储方法； 在计算时，做SVD分解，取主要成分，添加一层可以降低参数个数；做类似于group conv的操作，可以降低参数个数； 还有其他方法吗？
相关推荐
格力公司福利 356人发布 02-02 15:32
南京信息工程大学 Java 
HR_丸山彩同学：你的项目描述里，系统设计讲了很多：MemCube是什么、三级存储架构怎么设计、四种遗忘策略分别是什么。这些面试的时候讲没问题，但简历上不需要这么细。
简历要突出的是影响力，不是实现细节。面试官看简历的时候想知道的是「这个项目有多大价值」，不是「这个项目具体怎么实现的」。实现细节是面试时候聊的
怎么改：技术细节可以精简为一句「采用三级存储架构+四种遗忘策略」，把省出来的篇幅用来写影响力。比如：项目有没有开源？有没有写成技术博客？有没有被别人使用过？
校园经历没有任何信息量，任何人都可以写这句话，写了等于没写。更关键的是，你投的是技术岗，校园活动经历本来就不是加分项。如果非要写，必须写出具体的数字和成果。如果你没有这些数字，那就老老实实删掉
「端到端耗时缩减30-40%」要给出确切数字和绝对值。从1000ms降到600ms是降了40%，从100ms降到60ms也是降了40%，但这两个含义完全不一样。其他也是，涉及到数据，准备好证据，口径统一，面试会问
「熟练」「熟悉」「了解」混在一起用，读起来很乱。而且「了解前端需求」最好改成「具备前后端协作经验」 点赞 评论 收藏
分享
点赞 评论 收藏
分享