CN114020510B 一种校正系数的压缩方法、装置及存储方法 （卡莱特云科技股份有限公司）

道西丽社区留新四街万科云城三期C设的主系数目标位数Q以及预设的补系数目标位数R；将待压缩主系数由P比特的定点数压缩为Q比特的定点数，或者压缩为由A比特的第一指数部分和B比特的第一定点小数部分所组成的Q比特的编码数据；将待压缩补系数由P比特的定点数压缩为由C比特的第二指数部分和D比特的第二定点小数部分所组成的R比特的编码数据，利2获取待压缩主系数，将所述待压缩主系数由P比特的定点数压缩者将所述待压缩主系数由P比特的定点数压缩为由A比特的第一指数部分和B比特的第一定获取待压缩补系数，将所述待压缩补系数由P比特的定点数压部分和D比特的第二定点小数部分所组成的数据存储位数为R比特的编码数据，其中C+D=述待压缩主系数由P比特的定点数压缩为Q由P比特的定点数压缩为由A比特的第一指数部分和B比特的第一定点小数部分组成的数据获取预设的主系数指数编码-指数值映射表，所述预设的主系数指确定所述待压缩主系数的主系数目标指数值从所述主系数指数编码-指数值映射表中，获取与所述主系数目标指数值对应的主系根据所述第一指数部分的数据存储位数A以及主系数目标位数Q，根据所述第一定点小数部分的数据存储位数B以及所述主系数目标指数码-指数值映射表采用固定位数的指数编码形式表示不同的主系数指数值，或者采用动态由P比特的定点数压缩为由C比特的第二指数部分和D比特的第二定点小数部分所组成的数获取预设的第一补系数指数编码-指数值映射表，所述第一补系根据所述待压缩补系数的第一位有效数字所在位数T，确定所述待压缩补系数的补系3从所述第一补系数指数编码-指数值映射表中，获取与所述补系数目标指数值对应的根据所述第二指数部分的数据存储位数C以及补系数目标位数R，根据所述第二定点小数部分的数据存储位数D以及所述主系数目标指数所述获取待压缩补系数，将所述待压缩补系数由P比特的定点数压缩为由指数部分和D比特的第二定点小数部分所组成的数据存储位数获取预设的第二补系数指数编码-指数值映射表，其中，所述第数值映射表为采用固定位数的编码形式表示不同的获取待压缩补系数，若所述待压缩补系数为蓝色补系数，根据所述为由C1比特的第二指数部分和D1比特的第二定点小数部分所组成的数据存储位数为R1比特若所述待压缩补系数为红色补系数或者绿色补系数，根据所述第二补系数指数编码-指数值映射表以及红色补系数和绿色补系数目标位数R2将所述待压缩补系数由P比特的定点数压缩为由C2比特的第二指数部分和D2比特的第二定点小数部分所组成的数据存储位数系数包括主系数以及补系数，所述主系数以及所述补系数以数据存储位数为P比特的定点压缩为Q比特的定点数，或者将所述待压缩主系数由P比特的定点数压缩为由A比特的第一压缩为由C比特的第二指数部分和D比特的第二定点小数部分所组成的数据存储位数为R比根据权利要求1-6任一项所述的校正系数的压缩方法，对LED显示屏4将压缩后的LED显示屏各个像素点的校正系数存储至接收卡中的动态随机存取内存根据权利要求1-6任一项所述的校正系数的压缩方法，对每个块状区域中的基准像素根据预设的差分编码策略，以及每个块状区域中的得每个块状区域中除基准像素点以外的各个像素点的校正系数对应将每个块状区域的基准像素点的压缩后校正系数以及每个块状区域中除基准像素点根据权利要求1-6任一项所述的校正系数的压缩方法，对第一灰阶段对应的校正系数根据预设的差分编码策略以及第一灰阶段对应的压缩后校正将第一灰阶段的压缩后校正系数以及除所述第一灰阶段以外的各个灰阶段的校正系5系数发送至接收卡中，由接收卡读取存储于接收卡中的SDRAM等动态随机存储内存中的校者将待压缩主系数由P比特的定点数压缩为由A比特的第一指数部分和B比特的第一定点小部分和D比特的第二定点小数部分所组成的数据存储位数为R比特的编码数据，其中C+D=[0011]进一步的，将待压缩主系数由P比特的定点数压缩为由A比特的第一指数部分和B[0013]根据待压缩主系数的第一位有效数字所在位数S，确定待压缩主系数的主系数目6[0014]从主系数指数编码-指数值映射表中，获取与主系数目标指数值对应的主系数指[0017]进一步的，预设的主系数指数编码-指数值映射表采用固定位数的指数编码形式[0018]进一步的，将待压缩补系数由P比特的定点数压缩为由C比特的第二指数部分和D[0020]根据待压缩补系数的第一位有效数字所在位数T，确定待压缩补系数的补系数目[0021]从第一补系数指数编码-指数值映射表中，获取与补系数目标指数值对应的补系[0025]获取预设的补系数目标位数R包括：获取预设的蓝色补系数目标位数R1以及获取部分和D比特的第二定点小数部分所组成的数据存储位数为R比的第二指数部分和D1比特的第二定点小数部分所组成的数据存储位数为R1比特的编码数[0029]若待压缩补系数为红色补系数或者绿色补系数，根据第二补系数指数编码-指数值映射表以及红色补系数和绿色补系数目标位数R2将待压缩补系数由P比特的定点数压缩为由C2比特的第二指数部分和D2比特的第二定点小数部分所组成的数据存储位数为R2比特7为Q比特的定点数，或者将待压缩主系数由P比特的定点数压缩为由A比特的第一指数部分为由C比特的第二指数部分和D比特的第二定点小数部分所组成的数据存储位数为R比特的[0037]将压缩后的LED显示屏各个像素点的校正系数存储至接收卡中的动态随机存取内[0043]根据预设的差分编码策略，以及每个块状区域中的基准像素点的压缩后校正系[0044]将每个块状区域的基准像素点的压缩后校正系数以及每个块状区域中除基准像[0049]将第一灰阶段的压缩后校正系数以及除第一灰阶段以外的各个灰阶段的校正系SDRAM等动态随机存储内存时，可以有效节省带宽及SDRAM等动态随机存储内存的存储容8BRBGGG的取值范围为[0，点数表示为10000000000000(计算机中通常使用二进制表示)，实际代表的数值为[0066]本发明中所提及的LED显示屏中各个像素点的校正系数一般由上位机中的校正系9的SDRAM等动态随机存储内存中的校正系数，以用于对LED显示屏中的各个像素点进行校[0067]进一步的，本发明提供的校正系数的压缩方法的执行主体可以为LED箱体中的接定点数，或者将待压缩主系数由P比特的定点数压缩为由A比特的第一指数部分和B比特的第一定点小数部分所组成的数据存储位数为Q数以及6个补系数)的数据存储位数由原来的14比特*9＝126比特，压缩为12比特*3+10比缩为由,3比特的第一指数部分和9比特的第一定点小数部分所组成的数据存储位数为12比[0078]或者可以将待压缩主系数由14比特的定点数压缩为由2比特的第一指数部分和10特的第二指数部分和8比特的第二定点小数部分所组成的数据存储位数为10比特的编码数[0080]或者可以将待压缩补系数由14比特的定点数压缩为由3比特的第二指数部分和7[0085]若P＝14，主系数目标位数Q＝12，14bit的待压缩主系数为10000000000001，对数压缩为由A比特的第一指数部分和B比特的第一定点小数部分组成的数据存储位数为Q比[0090]具体的，主系数指数编码-指数值映射表可以采用固定位数的指数编码形式表示映射表所需表示的主系数指数值的数量来确定主系数[0121]步骤S205：根据第一定点小数部分的数据存储位数B以及主[0127]则该待压缩主系数的第一位有效数字即为从左边起的第一个非0数字1(位于第3[0130]由于当主系数目标指数值K为-2时，根据公式：待压缩主系数＝2k*f，求出f=[0134]由于当主系数目标指数值K为-2时，根据公式：待压缩主系数＝2k*f，求出f=需要根据主系数指数编码-指数值映射表对压缩后的主系数进行解码得到具体的主系数特的第二指数部分和D比特的第二定点小数部分所组成的数据存储位数为R比特的编码数[0139]第一补系数指数编码-指数值映射表中包括多个预设的补系数指数编码，用于表[0151]步骤S305：根据第二定点小数部分的数据存储位数D以及主[0152]由于步骤S301-步骤S305具体的实现方法与步骤S201-步骤S仅仅在于R与Q设置的具体数值存在区别、预设的第一补系数指数编码-指数值映射表与主[0155]步骤S101中的获取预设的补系数目标位数R包括获取预设的蓝色补系数目标位数[0156]如图4所示，步骤S103中的将补系数由P比特的定点数压缩为由C比特的第二指数部分和D比特的第二定点小数部分所组成的数据存储位数为R比特的编码数据包括以下步[0159]同样的，第二补系数指数编码-指数值映射表也为技术人员根据实际需要预先设将待压缩补系数由P比特的定点数压缩为由C1比特的第二指数部分和D1比特的第二定点小[0164]步骤S404：根据第二补系数指数编码-指数值映射表以及红色补系数和绿色补系数目标位数R2将待压缩补系数由P比特的定点数压缩为由C2比特的第二指数部分和D2比特的第二定点小数部分所组成的数据存储位数为R2比[0168]采用步骤S401-步骤S404中的方法进行压缩，能够提高蓝色补系数压缩后的精度压缩为Q比特的定点数，或者将待压缩主系数由P比特的定点数压缩为由A比特的第一指数部分和B比特的第一定点小数部分所组成的数据存储位数为Q比特的编码数据，其中A+B=压缩为由C比特的第二指数部分和D比特的第二定点小数部分所组成的数据存储位数为R比[0177]步骤S603：将压缩后的LED显示屏各个像素点的校正系数存储至接收卡中的动态[0178]本实施例中提供的校正系数的存储方法，获取到LED显示屏各个像素点的校正系多个灰阶段，针对每个灰阶段计算出对应的校正系数(同样包括3个主系数以及6个补系得除第一灰阶段以外的各个灰阶段的校正系数对应缩后的差值即为除第一灰阶段以外的各个灰阶段的校正系数对蓝色补系数/红色绿色补系数的目标位数分别设为12比特/10比特/10比特，