算法面试高频知识点：JS散度解析

图片说明

JS散度全称Jensen-Shannon散度，简称JS散度。在概率统计中，JS散度也与KL散度一样具备了测量两个概率分布相似程度的能力，它的计算方法基于KL散度，继承了KL散度的非负性等，但有一点重要的不同，JS散度具备了对称性。

JS散度的公式如下所示，我们设定两个概率分布为和，另外我们还设定，KL为KL散度公式。

如果我们把KL散度公式写入展开的话，结果如下所示：

深度学习中使用KL散度和JS散度进行度量的时候存在一个问题：

如果两个分布，离得很远，完全没有重叠的时候，那么KL散度值是没有意义的，而JS散度值是一个常数。这对以梯度下降为基础的深度学习算法有很大影响，这意味梯度为0，即梯度消失。

#秋招##实习##面经##面试八股文##面霸的自我修养#
全部评论
看着公式，一点都不懂啊，果然我不适合算法
点赞 回复 分享
发布于 2022-08-21 21:01 陕西

相关推荐

10-19 14:02
联想_后端开发部_语音算法工程师(准入职员工)
联想内推，联想内推码
供应链管理面经1. 你如何理解 "供应链管理" 的核心目标？举一个简单的供应链例子。 ◦ 追问1：供应链的 "三流" 指什么？ ◦ 追问2：如何提升供应链响应速度？ 2. 请描述一次你参与的物流或库存管理项目，有什么收获？ 3. 解释你理解的 "供应商管理"，如何选择和评估供应商？ ◦ 追问1：供应商评估的指标有哪些？ ◦ 追问2：如何建立供应商合作关系？ 4. 你认为供应链管理中最常见的挑战是什么？如何应对？ 5. 作为供应链管理专员，你认为需要具备哪些核心能力？如何培养？ ◦ 追问1：如何学习供应链知识？ ◦ 追问2：如何提升系统...
点赞 评论 收藏
分享
10-17 14:42
基恩士_销售工程师(准入职员工)
基恩士内推，基恩士内推码
问题（面试刚开始会让做一个自我介绍，可以提前准备一下） 1.我是如何实现一周涨粉5000+的？ 这个问题是根据经历上面的经验提问的 我简单回答了一下 选题策划-AB测试-评论转换-账号定位一些内容 2.为什么开始这个小红书运营项目？ 其实这是老师布置的小组作业 我回答：有项目想法-调研后熟悉小红书规则等等 3.在运营账号过程中有没有低谷期或者困难你是怎么解决的？ 这个问题的核心：就是问你遇到困难是如何解决的？ 4.你有没有向他人推销产品的经历？如果有你是如何推销的？ 这个我刷到收到面试的同学好像都问了 这个问题必须准备，好好回答是一个必答题 5.你推销产品时其他人是什么反应？ 我当时的回答是“...
点赞 评论 收藏
分享
09-06 12:49
东北大学 Java
全程乱答 这几天累的只想睡觉了问就是不会道歉
offeroffer...：我也是，前两面还挺紧张认真的，全程大脑飞速运转后面就越来越不想面了，不想说话不想思考
点赞 评论 收藏
分享
09-05 20:51
已编辑
哈尔滨工程大学 Java
点赞 评论 收藏
分享
10-17 19:43
已编辑
西北工业大学 Java
顺丰一面面经
2025年10月17日 顺丰一面。全程30分钟。在这些项目中，有哪些功能或实现方式让你印象深刻？你从中学到了什么？你做过数据库索引优化吗？在哪些情况下索引会失效？创建索引时有哪些注意点？联合索引的使用需要注意什么？你怎么理解 Java 中的接口和抽象类？你怎么理解多态？你在项目中有没有实际使用过接口 + 多态的设计？为什么选择这种方式而不是直接写多个类？你有没有看过 Java 的源码？比如 HashMap、ArrayList、ConcurrentHashMap 等？请介绍一下 HashMap 的底层结构和工作原理。hashCode() 和 equals() 方法的关系是什么？你用过 Redis...
查看12道真题和解析
点赞 评论 收藏
分享
评论
4
1
分享

招聘动态

查看更多

联易融

2026届秋季校园招聘

杉川集团2026届校招

杉尖计划·与杉川一览群山

真格基金

被投企业秋季联合校招

瓴岳科技

2026届“登岳计划”校招启动

Garena

2026秋季校园招聘

新华三

2026秋招校园招聘

厦门银行

2026届秋季校园招聘

滴滴

2026届秋季校招

联想

2026届校园招聘

字节跳动

2026校园招聘

全站热榜

更多

创作者周榜

更多
正在热议
更多
# 你的mentor是什么样的人？ #
7911次浏览 65人参与
# 投递几十家公司，到现在0offer，大家都一样吗 #
266679次浏览 1859人参与
# 平安产险科技校招 #
2525次浏览 0人参与
# 怎么给家人解释你的工作？ #
4343次浏览 41人参与
# 26届秋招公司红黑榜 #
19235次浏览 68人参与
# 帮我看看，领导说这话什么意思？ #
10005次浏览 53人参与
# 未岚大陆求职进展汇总 #
38588次浏览 117人参与
# 你觉得面试是靠实力还是靠运气 #
23604次浏览 279人参与
# 校招泡的最久的公司是哪家？ #
7635次浏览 44人参与
# 牛客树洞，我想对你说 #
2656次浏览 50人参与
# 求职低谷期你是怎么度过的 #
7912次浏览 148人参与
# 实习必须要去大厂吗？ #
148291次浏览 1551人参与
# 度小满求职进展汇总 #
11173次浏览 58人参与
# 你觉得mentor喜欢什么样的实习生 #
13438次浏览 351人参与
# 你觉得多少薪资算SSP？ #
113033次浏览 416人参与
# 没有家庭托举的我是怎么找工作的 #
15805次浏览 190人参与
# 你遇到过哪些神仙同事 #
117537次浏览 750人参与
# 同bg的你秋招战况如何？ #
159123次浏览 927人参与
# 从哪些方向判断这个offer值不值得去？ #
8779次浏览 104人参与
# 职场新人体验 #
101125次浏览 666人参与
# 职场破防瞬间 #
343609次浏览 2819人参与
# 面试紧张时你会有什么表现？ #
2313次浏览 23人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务