早教吧 育儿知识 作业答案 考试题库 百科 知识分享

关于运算次序“H”是十六进制标识符不参加运算(例如题中:20000H表示20000是一个十六进制的数字,而20000后面的“H”是一个标识符只是标注作用,同理FFFFH一样表示FFFF是一个十六进制

题目详情
关于 运算次序
“H”是十六进制标识符 不参加运算(例如题中:20000H 表示 20000是一个十六进制的数字,而20000后面的“H”是一个标识符 只是标注作用,同理 FFFFH 一样表示 FFFF 是一个十六进制的数字) .数字“16”是十进制数字 参与运算."sa" 是未知数 :
方程式:20000H=sa*16+FFFFH 求 sa
第一种解体过程:
20000H=sa*16+FFFFH
sa=(20000H-FFFFH) / 16
sa=10001H / 16
sa=1000H
这是第一种结果 先计算括号里面的减法,最后再除以16
第二种结果步骤:
20000H=sa*16+FFFFH
sa=(20000H-FFFFH) / 16
sa=20000H /16 - FFFFH /16
sa=2000H- FFFH
sa=1001H
这个先分配除以16 然后再相减 按道理说 2中方程计算方法都对啊 为什么出现2个结果?
我错在哪里?
▼优质解答
答案和解析
在考虑舍入影响的情况下,并不适用分配率.除法越多精度越差.
你分别推导一下两种计算过程的精度,就会发现第二种计算过程引入了更大的误差.