zl程序教程

您现在的位置是:首页 >  数据库

当前栏目

SQLServer中bigint转int带符号时报错问题解决方法

SQLServer方法 问题 解决 int 时报 BigInt 带符号
2023-06-13 09:15:45 时间

有一个需求是要在一个云监控的状态值中存储多个状态(包括可同时存在的各种异常、警告状态)使用了位运算机制在一个int型中存储。

现在监控日志数据量非常大(亿级别)需要对数据按每小时、每天进行聚合,供在线报表使用。
状态分了3个级别:正常(0)、警告(1)、异常(2),聚合时需要使用max选择最差的状态,就需要对状态值进行处理加上级别和状态位个数,就要借助bigint型来做运算了,

问题是再将bigint转为int时获取原始状态值时,SQLServer报错了:

消息8115,级别16,状态2,第1行
将expression转换为数据类型int时出现算术溢出错误。

因为状态码中已经用到了0x80000000,出现了符号位的问题。
写了一个转换函数解决了。

CREATEFUNCTION[dbo].[BigintToInt]

(

@Valuebigint

)

RETURNSint

AS

BEGIN

--是否有int符号位

IF@Value&0x80000000<>0RETURN@Value&0xFFFFFFFF|0xFFFFFFFF00000000

--无符号位

RETURN@Value&0xFFFFFFFF

END