什么决定计算机的运算精度
来源：动视网
责编：小OO
时间：2024-09-03 20:50:47
什么决定计算机的运算精度
字长。计算机是采用近似计算的方法来实现数据运算的，计算机所处理数字的有效数位取决于其字长，即能表示多大和精确到小数点后多少位的数，参与运算数据的有效位数就决定了计算结果的精确度。
导读字长。计算机是采用近似计算的方法来实现数据运算的，计算机所处理数字的有效数位取决于其字长，即能表示多大和精确到小数点后多少位的数，参与运算数据的有效位数就决定了计算结果的精确度。
字长。计算机是采用近似计算的方法来实现数据运算的，计算机所处理数字的有效数位取决于其字长，即能表示多大和精确到小数点后多少位的数，参与运算数据的有效位数就决定了计算结果的精确度。
什么决定计算机的运算精度
字长。计算机是采用近似计算的方法来实现数据运算的，计算机所处理数字的有效数位取决于其字长，即能表示多大和精确到小数点后多少位的数，参与运算数据的有效位数就决定了计算结果的精确度。
