zl程序教程

您现在的位置是:首页 >  大数据

当前栏目

根据欧式距离和余弦相似度来计算tensor之间的相似度的代码实现

计算代码 实现 之间 根据 距离 相似 Tensor
2023-09-11 14:15:46 时间

通常情况下,在端侧的模型推理过程中,使用的是量化后的数据来参与各层计算的,而并非原始的float数据类型,通常的量化数据类型有UINT8/INT8/INT16等等,由于数据表示范围的差异,在量化过程中,必然涉及到精度损失,这种同一个模型相同层之间使用量化推理计算得到的数据经过反量化之后和原始goden版的float数据的差异,我们用相似度表示,用图形化描述如下:

通常相似度的比较可以用余弦距离和空间欧式距离表示,根据线性空间理论,当两个向量相似时,他们的内积较大,我们可以认为内积大小表示两个向量的相似性,cos的结果表示余弦相似度。