早教吧 育儿知识 作业答案 考试题库 百科 知识分享

计算机进行数值计算时的高精确度主要取决于.

题目详情
计算机进行数值计算时的高精确度主要取决于______.
▼优质解答
答案和解析
D.计算机的字长因为计算机的字长越长,用于表示一个数的二进制位就会越多,从而计算时精度会越高.
看了 计算机进行数值计算时的高精确...的网友还看了以下:

关于不确定度“小于5舍去,大于5进位,等于5凑偶”的问题?书上在计算最终不确定度时,将0.455写  2020-04-09 …

使用刻度尺的规则(九年级上人教版)1.“读”读数时视线要与尺面,在精确测量时要估读到最小分度值的下  2020-05-22 …

长度的测量值=准确值+估计值,其中准确值部分可以存在误差吗,比如说某同学测量某物体的长度,测量结果  2020-06-06 …

关于不确定度“小于5舍去,大于5进位,等于5凑偶”的问题?书上在计算最终不确定度时,将0.455写  2020-06-20 …

下列说法正确的是()A.测量时,测量工具越精密,测量越准越好B.用分度值不同的两把刻度尺测量同一物  2020-07-04 …

关于物理实验数据处理的不确定度A类不确定度测量值和平均值单位都是cm,计算时没有化为mm,而B类不  2020-07-31 …

偏导数的计算我是从事化验工作的.在评定不确定度时要用到偏导数的知识.可我没有一点儿这方面的知识.现在  2020-11-20 …

下列关于使用刻度尺的说法中,正确的是()A.测量时,刻度尺的位置要放正B.读数时,视线应正对刻度尺C  2020-12-05 …

初一“使用刻度尺时要做到:”读正确:先读被测物体长度的准确值,即读到最小刻度值,再估读最小刻度的下一  2020-12-09 …

如图1在做“测平均速度”实验时,停表如图所示,该所时间为mins.如图2所示,用A、B两把刻度尺测同  2020-12-31 …