二进制数的表示方法及其对量化影响教学课件_第1页
二进制数的表示方法及其对量化影响教学课件_第2页
二进制数的表示方法及其对量化影响教学课件_第3页
二进制数的表示方法及其对量化影响教学课件_第4页
二进制数的表示方法及其对量化影响教学课件_第5页
已阅读5页,还剩28页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

二进制数的表示方法及其对量化影响计算机数据表示与数字信号处理基础教学课件Contents课程目录探索计算机底层数据表示与运算的核心逻辑,构建扎实的量化基础。01数制基础与进制概念02二进制表示与进制转换03定点数与浮点数表示04有符号数的编码方式05二进制对量化过程的影响Chapter01数制基础与进制概念从人类直觉认知到机器物理实现的数制映射体系FUNDAMENTALS数制的三要素数制是利用数字符号计数的方法,其核心由基数(可用数码个数)、位权(位置对应的权重值)和数位(数码所处位置)三要素构成。这三要素构成了所有进位计数制的统一数学模型,是理解进制转换与运算的理论基石。数制教学·黑板书写数学公式基数某种进制中每个数位可使用的数码个数,如十进制基数为10(数码0~9),二进制基数为2(数码0和1)位权数字符号所表示的数值等于该数字乘以与其位置相关的常数,即以基数为底、位置序号为指数的幂,如十进制千位的位权为10³=1000数位数码在一个数中所处的位置,整数部分最低位序号为0并向左递增,小数部分从-1开始向右递减NUMBERSYSTEMS四种常见进制对照十进制、二进制、八进制和十六进制是计算机科学中最核心的四种数制。八进制和十六进制本质上是二进制的"人机友好缩写",用于压缩位串长度、提升可读性与调试效率,三者之间存在天然的幂次对应关系。常见进制核心参数对照表进制名称标识字母基数可用数码计数规则十进制D100,1,2,3,4,5,6,7,8,9逢十进一二进制B20,1逢二进一八进制O80,1,2,3,4,5,6,7逢八进一十六进制H160~9,A(10),B(11),C(12),D(13),E(14),F(15)逢十六进一四种进制以不同基数构建计数体系,八进制与十六进制作为二进制的紧凑表示在工程中广泛使用PositionalNotation进制的统一数学模型任意R进制数都可用统一的位权展开公式表示:每位数码di乘以基数R的i次方再求和。UniversalFormula(dn···d1d0)R=

Σ(di×Ri)R基数di合法数码i位权指数01通用公式R进制的值=Σ(di×Ri),R为基数,di为合法数码,i为位权指数02十进制1234.5=1×10³+2×10²+3×10¹+4×10⁰+5×10⁻¹=1234.503二进制(101.1)₂=1×2²+0×2¹+1×2⁰+1×2⁻¹=(5.5)₁₀04十六进制(1A.C)₁₆=1×16¹+10×16⁰+12×16⁻¹=(26.75)₁₀FUNDAMENTALS计算机为何使用二进制计算机采用二进制并非偶然,而是由电子元件的物理特性决定的必然选择。双稳态电路的天然二值特性、极简的运算规则以及与逻辑代数的完美对应,使二进制成为数字系统唯一可行的数制基础。电路实现简单电子元件只有"开"和"关"两种稳定状态,分别用0和1表示,双稳态电路抗干扰能力强两种状态在数字传输和处理中不容易出错,硬件电路的可靠性显著高于多值逻辑电路双稳态运算规则简化二进制加法和乘法各仅有四条基本规则,远少于十进制的55条,大幅简化运算器电路算术运算和逻辑运算都容易实现,ALU的设计复杂度显著降低4条规则逻辑运算契合二进制数码0和1与逻辑代数中的"假"和"真"完美对应与、或、非等基本逻辑门可直接处理二进制数据,使计算机兼具算术运算和逻辑判断能力0/1=F/TCHAPTER02二进制表示与进制转换掌握整数与小数的进制转换方法及二-十六进制的天然对应关系BaseConversion·数制转换十进制转二进制十进制转二进制需分别处理整数和小数部分:整数部分采用"除2取余、逆序排列"法,小数部分采用"乘2取整、顺序排列"法。两种方法组合即可处理任意带小数点的十进制数的转换。整数部分反复除以2取余数直到商为0,将余数从最后一次到第一次逆序排列,得到二进制整数部分225→11100001小数部分反复乘以2取整数部分直到小数为0或达到精度要求,将整数顺序排列,得到二进制小数部分0.625→0.101完整示例整数与小数部分分别转换后以小数点连接,组合为最终二进制结果,完整表示原十进制数值(225.625)₁₀=(11100001.101)₂注意事项部分十进制小数无法用有限位二进制精确表示,会产生舍入误差,这与计算机中的量化误差密切相关RoundingErrorBASECONVERSION二进制转十进制二进制转十进制使用位权展开法,将每位数码乘以2的对应幂次后求和。该方法适用于任意R进制到十进制的转换。示例演算·STEPBYSTEP(1101.01)21×23+1×22+0×21+1×200×2-1+1×2-2=8+4+0+1+0+0.25RESULT13.25₁₀METHOD将每位数码乘以对应位权(2的幂次),整数部分从右向左幂次递增,小数部分从左向右幂次递减。快速记忆各位位权从左到右依次为:…8·4·2·1·0.5·0.25…逢位翻倍或减半NumberBaseConversion二进制与十六进制互转由于2⁴=16,每4位二进制精确对应1位十六进制数码,这种天然亲和性使十六进制成为内存地址、机器码、颜色值(#RRGGBB)等领域的标准记法,极大压缩了位串长度并提升了可读性。二进制→十六进制从小数点向两侧每4位一组(不足补0),各组转换为对应十六进制数码。Example101011B→2BH0010|1011十六进制→二进制每位十六进制数码展开为4位二进制,逐位拼接还原完整位串。ExampleABCH→1010…BA(1010)B(1011)C(1100)工程应用32位地址用8位十六进制表示,颜色值用6位十六进制表示,大幅提升可读性。Example0xFFFF0000#FF5733REFERENCETABLE二进制与十六进制对照表0~F的十六进制数码与4位二进制之间存在一一对应关系,掌握这一对照表是快速进行进制转换、阅读机器码和调试程序的基础技能。十六进制数码与4位二进制对照十六进制十进制值4位二进制十六进制十进制值4位二进制000000881000110001991001220010A101010330011B111011440100C121100550101D131101660110E141110770111F151111每位十六进制数码与4位二进制一一对应,是从0到F的完整映射关系CHAPTER03定点数与浮点数表示从存储单位到位宽约束,理解数值在计算机中的编码与存储方式StorageHierarchy计算机存储单位层级计算机存储单位从bit到byte再到word层层递进:bit是最小单元,byte是寻址最小单位,word是CPU一次处理的数据宽度。存储单位的物理载体·计算机内存条01Bit(位):信息熵最小单元,仅能表达0/1两种状态,是二进制数据的基本构成要素0/102Byte(字节):8bit构成1byte,是内存最小可寻址单位,也是ASCII字符编码的基础载体8bits03Word(字):CPU一次处理的数据宽度,32位机中1word=4bytes=32bits,决定寄存器容量和总线带宽32bits04位宽决定精度:二进制位数越多,可表示的数值范围越大、精度越高,是理解量化误差的关键前提精度COMPUTERARITHMETIC定点数表示方法定点数是计算机中小数点位置固定不变的数值表示方法,分为定点整数和定点小数两种形式。其运算简单快速但表示范围有限,适用于对速度要求高、数值范围确定的应用场景。INTEGER定点整数01小数点隐含在最低数值位右边,用于表示纯整数,如8位无符号定点整数范围为0~25502n位无符号定点整数可表示0到2ⁿ−1,n位有符号定点整数(补码)可表示−2ⁿ⁻¹到2ⁿ⁻¹−10~2ⁿ−1FRACTION定点小数01小数点隐含在符号位与最高数值位之间,用于表示绝对值小于1的纯小数02在数字信号处理中广泛使用,如音频采样值的归一化表示,运算速度快但动态范围有限DSPComputerScience·DataRepresentationIEEE754浮点数标准IEEE754浮点数标准采用符号位+指数位+尾数位的三段式结构表示实数,类似于二进制的科学计数法。单精度(32位)和双精度(64位)是两种最常用的格式,在扩展数值范围的同时也引入了浮点精度损失问题。浮点数结构(-1)S×M×2E,其中S为符号位,M为尾数(隐含最高位1),E为偏移指数,类似科学计数法的二进制版(-1)S×M×2E单精度(32位)1位符号+8位指数+23位尾数,有效数字约7位十进制,范围约±3.4×10³⁸32bit双精度(64位)1位符号+11位指数+52位尾数,有效数字约16位十进制,范围约±1.8×10³⁰⁸64bit精度损失本质尾数位数有限,无法精确表示所有实数,如0.1在二进制浮点中为无限循环小数,必然产生舍入误差ROUND-OFFERRORCOMPARISON定点数与浮点数对比定点数与浮点数各有优劣:定点数运算快速、硬件简单但范围有限;浮点数表示范围大、适合科学计算但运算复杂且精度不均匀。工程实践中需根据精度需求、运算速度和硬件成本综合选择。定点数与浮点数核心特性对比对比维度定点数浮点数小数点位置固定不变可浮动(由指数决定)表示范围有限(由位宽决定)极大(指数扩展范围)精度分布均匀分布不均匀(近0精度高,远0精度低)运算速度快(整数运算即可)慢(需专用FPU或浮点指令)硬件成本低(简单ALU即可)高(需浮点运算单元FPU)典型应用嵌入式音频、图像处理科学计算、机器学习、3D渲染定点数适合范围固定、速度敏感的场景;浮点数适合范围大、精度要求高的科学计算CHAPTER04有符号数的编码方式从原码、反码到补码的演进,理解现代计算机负数表示的标准方案SignedNumberRepresentation原码表示法原码是最直观的有符号数表示方法,最高位为符号位(0正1负),其余位为数值绝对值。虽然表示直观易懂,但存在+0和-0双零冗余以及减法电路复杂两大缺陷,不适合直接用于计算机运算。编码规则最高位为符号位(0正1负),其余各位表示数值绝对值。如+5→00000101,-5→100001010·1表示范围n位原码可表示-(2ⁿ⁻¹-1)到+(2ⁿ⁻¹-1),8位原码范围为-127到+127±127双零问题+0原码为00000000,-0原码为10000000,同一个零有两种表示,浪费一个编码空间±0运算缺陷加减法需先比较符号位再决定操作类型,无法用统一加法电路处理,硬件实现复杂度高ComplexCOMPUTERARITHMETIC反码表示法反码作为原码到补码的过渡方案,正数反码等于原码,负数反码为符号位不变、数值位按位取反。虽可将减法转化为加法,但仍存在双零问题和循环进位复杂性,最终被补码取代。编码规则正数反码等于原码;负数反码符号位保持1不变,数值位按位取反。这是反码最基本的定义方式。例:−5→11111010双零问题+0与−0拥有不同编码,导致零的表示不唯一,给判零运算和数值比较带来额外判断逻辑。+0:00000000/−0:11111111循环进位反码加法若产生最高位进位,需将该进位加回最低位(末端进位),增加运算电路复杂度。需额外电路处理进位回传历史地位原码到补码的过渡方案,现代计算机已不直接使用,但它是理解补码原理的重要桥梁。教学意义>实用价值COMPUTERARITHMETIC补码:现代计算机的负数标准补码(2ⁿ−x)是现代计算机表示有符号数的唯一标准,其核心优势在于零的表示唯一、加减法电路完全统一。编码方法正数补码等于原码;负数补码为「按位取反加1」,如−5:00000101取反11111010加1→11111011NOT+1零的唯一性0的补码只有00000000一种表示,消除双零冗余,n位补码可表示−2ⁿ⁻¹到2ⁿ⁻¹−1UNIQUEZERO加减法统一A−B等价于A+(−B)的补码,只需一个加法器电路即可完成加减运算,硬件大幅简化A−B=A+(−B)溢出检测两个同号数相加结果异号(如0111+0001=1000,正+正得负),即发生算术溢出,结果语义错误OVERFLOWSIGNEDNUMBERREPRESENTATION三种编码方式完整对比原码、反码、补码三种有符号数编码方式中,补码凭借零的唯一性、更大的表示范围(多一个-128)和加减法电路统一性,成为现代计算机唯一采用的标准编码方案。8位有符号数三种编码方式对比对比维度原码反码补码+5的编码000001010000010100000101-5的编码100001011111101011111011+0的编码000000000000000000000000-0的编码1000000011111111无(10000000表示-128)表示范围-127~+127-127~+127-128~+127加减法统一不支持部分支持(需循环进位)完全支持补码在零唯一性、表示范围和运算统一性三方面全面优于原码和反码COMPUTERARITHMETIC补码运算与溢出检测补码加法的溢出发生在两个同号数相加结果异号时。CPU通过状态寄存器中的溢出标志位(OF)自动检测,该机制是防止整数溢出攻击和保证计算正确性的硬件基础。溢出条件两个同号数相加结果异号(正+正得负或负+负得正),如8位中127+1=10000000(−128),语义错误127+1→−128进位判断法最高数值位向符号位的进位C_in与符号位产生的进位C_out不同时(C_in⊕C_out=1),即发生溢出C_in⊕C_out=18位溢出边界最大正数127(01111111)加1溢出为−128,最小负数−128(10000000)减1溢出为+127−128~+127安全意义整数溢出是软件安全漏洞的常见来源(如缓冲区溢出攻击),理解溢出机制对编写安全代码至关重要BUFFEROVERFLOWCHAPTER05二进制对量化过程的影响从A/D转换到量化误差,剖析二进制位数如何决定数字信号的精度极限A/DConversion量化过程与量化单位量化是用有限离散二进制数码逼近连续模拟信号幅值的过程,量化单位q=VFS/2n决定了离散化的粒度。量化定义用离散二进制数码逼近连续模拟信号幅值,将连续量转换为数字量,是A/D转换的核心步骤。量化过程通过分层编码实现模拟信号的数字化表示。核心步骤量化单位qLSB对应的模拟量值,公式q=VFS/2n,VFS为满量程电压,n为量化位数。该公式揭示了分辨率与位数的指数关系。q=VFS/2n精度对比满量程5V条件下:8位分辨率≈19.5mV,12位≈1.22mV,16位≈76μV。位数每增加1位,精度提升一倍,动态范围扩展6dB。16bit·高精度物理意义量化单位决定数字系统能分辨的最小模拟量变化,是衡量A/D转换器精度的基本参数。它直接影响系统的信噪比和有效位数指标。最小分辨能力QUANTIZATIONERROR量化误差的产生原因量化误差源于连续模拟量的无限取值与二进制有限离散值之间的固有矛盾,最大值为±q/2,只能通过增加量化位数来减小。根本原因连续模拟量取值无限,n位二进制仅能表示2n个离散值,两者无法完全匹配,产生近似偏差2n离散值误差范围四舍五入量化最大误差±q/2,截断量化为-q~0,前者精度更优±q/2原理性误差由有限字长引起的固有误差,不同于采样误差(时间离散化),不可能完全消除固有误差概念区分采样频率影响混叠误差(时间维度),量化位数影响量化误差(幅值维度),两者独立但共同决定A/D转换质量A/D转换QUANTIZATIONPRECISION量化位数对精度的影响量化位数每增加1位,量化级数翻倍、量化误差减半。从4位到16位,量化级数从16增加到65536,量化精度提升4096倍,充分体现了二进制字长对数字信号精度的决定性影响。不同量化位数下的精度对比(满量程VFS=10V)量化位数(n)量化级数(2ⁿ)量化单位q最大误差(±q/2)典型应用4位16625.0mV±312.5mV简单控制信号8位25639.1mV±19.5mV一般音频数字化12位4,0962.44mV±1.22mV工业测控系统16位65,5360.153mV±0.076mV高精度数据采集24位16,777,2160.596μV±0.298μV专业音频/精密仪器量化位数每增加1位精度翻倍,从8位到24位量化精度提升约65000倍QUANTIZATIONERRORREDUCTION减小量化误差的方法减小量化误差的根本方法是增加量化位数(字长)以减小量化单位q。工程中还需综合考虑成本、功耗、转换速度等因素,并可通过缩小满量程、过采样和噪声整形等技术辅助提升有效精度。增加量化位数直接增加n使q=VFS/2n减小,每增1位量化误差减半,是最根本有效的方法位数增加导致ADC成本上升、功耗增大、转换速度降低,需根据应用需求选取合适字长2n优化满量程范围缩小VFS使之更匹配实际信号幅度,等效提高量化精度,避免量程浪费自动量程切换技术可根据输入信号幅度动态调整VFS,在多位ADC中广泛应用VFS过采样与噪声整形以远高于奈奎斯特频率采样后数字滤波降采样,每过采样4倍等效增加1位精度Sigma-Delta调制通过噪声整形将量化噪声推移到信号频带之外再滤除ΣΔSignalQuantization量化位数与信号质量(SQNR)信号量化噪声比SQNR≈6.02n+1.76dB,每增加1位量化位数信噪比提高约6dB。从8位电话语音到16位CD音质再到24位高保真音频,量化位数直接决定了数字信号的保真度。FormulaSQNR≈6.02n+1.76dB8位量化·电话语音SQNR约50dB,音质可接受但有明显量化噪声,如G.711电话编码标准50dB16位量化·CD音质44.1kHz/16bit标准,已超过人耳约90dB的动态范围感知极限98dB24位量化·高保真专业录音和高保真音频标准,为后期处理保留充足的动态余量146dB专业录音棚中的音频处理设备QUANTIZATION不同应用的量化位数选择不同应用场景对量化精度的需求差异巨大:从8位电话语音到24位精密仪器,量化位数的选择本质上是在精度、速度、成本三者之间寻找最优平衡点,需综合考虑信号特性和系统约束。典型应用场景的量化位数选择应用场景量化位数典型采样率选择依据电话语音通信8位8kHz语音可懂度需求低,8位已满足50dB信噪比CD音频播放16位44.1kHz98dB动态范围覆盖人耳感知极限工业温度测量12位1~100Hz0.01°C精度满足大多数工业测控需求医学CT/MRI影像12~16位逐行扫描高密度分辨率区分人体组织细微差异数码相机RAW12~14位单帧捕获高位深为后期曝光和色彩调整保留充足空间雷达信号处理14~16位MHz~GHz高速采样下保持足够动态范围检测弱目标从8位语音到16位雷达,量化位数选择取决于信号特性、

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论