“有限位精度”的意思、由来-百科全书

词条	有限位精度
释义	有限位精度数理化力学卷有限位精度　　用计算机进行数值计算,参与运算的数都是位数固定的有限位浮点数,因此运算中会产生舍入误差,所得结果是有误差的,称为“有限位精度”。出处：数理化力学卷 • 数　　学 • 计算数学
随便看	超轶超轻型飞机超载超辐射超迁超过损失再保险超过滤超迈超远超速保安器超速离心机超逸超遥超重超重元素超量恢复超量补偿超钾岩超铀元素超链接超镁铁岩超长寿命疲劳超长指令字超长期天气预报超长波电台

百科全书收录258893条中英文百科知识，基本涵盖了大多数领域的百科知识，是一部内容开放、自由的电子版百科全书。