“有限位精度”的意思、由来-百科全书

词条	有限位精度
释义	有限位精度数理化力学卷有限位精度　　用计算机进行数值计算,参与运算的数都是位数固定的有限位浮点数,因此运算中会产生舍入误差,所得结果是有误差的,称为“有限位精度”。出处：数理化力学卷 • 数　　学 • 计算数学
随便看	█ █ █ █ █ █ ██ █ █ █ █ █ 专陵之盟团体最少人数团体测验团体理论团体社会团体社会工作团体竞速赛团体计时赛团体责任团体赛跑团体运价团体追逐赛团军

百科全书收录258893条中英文百科知识，基本涵盖了大多数领域的百科知识，是一部内容开放、自由的电子版百科全书。