KL与JS散度学习[转载]
2023-09-14 09:11:23 时间
转自:https://www.jianshu.com/p/43318a3dc715?from=timeline&isappinstalled=0
https://blog.csdn.net/ericcchen/article/details/72357411
实际含义包括数据和假设的概率模型之间的差距,也可以理解为损失。
当以2为底时表示的是,以当前形式标识信息损失了多少位。
1.数据的熵
当底数为2时,就是香农熵。
2.KL散度度量信息损失
常见书写形式:
KL(p||q)和KL(q||p)并不相等,所以不是距离。
3.JS散度是对称的
计算公式:用到了KL散度。
JS是有界对称的,界是[0,1]
将KL公式代入进去即可。如果P1、P2完全相同,那么KL和JS都为0.
2020-9-24更新——————
https://blog.csdn.net/Invokar/article/details/88917214,这个对JS散度是展开的,写的很好。
相关文章
- php+js的 authcode 混淆加密和解密,php和js可以通用加密和解密
- JS实现图片懒加载
- 用原生js写一个"多动症"的简历
- JS框架_(Qrcode.js)将你的内容转换成二维码格式
- JS框架_(Typed.js)彩色霓虹灯发光文字动画
- 【华为云技术分享】如何快速实现鲲鹏弹性云服务器Node.js部署和高可用性?
- Knockout.Js官网学习(value绑定)
- Knockout.Js官网学习(text绑定)
- js document.activeElement 获得焦点的元素
- [Nuxt] Use Vuex Actions to Delete Data from APIs in Nuxt and Vue.js
- [js插件]学习Highcharts
- js es6 标签模板还原字符串
- SAP UI5框架 component.js的加载原理
- SAP Spartacus 服务器端渲染模式下,在 Node.js 服务器端渲染视图的单步调试
- three.js(JS 三维模型库)介绍和入门
- 一道题解释 js 的词法作用域
- js实现图片粘贴上传到服务器并展示
- 原生js实现随机验证码HTMl-JS
- Js学习之拖拉事件(拖动属性)HTML5 drag API(HTML 拖放 API)
- Node.js学习笔记——接口