早教吧 育儿知识 作业答案 考试题库 百科 知识分享

24位精度是多少数据采集卡中24位的精度和12位的精度是什么意思,分别精确到小数点后几位?

题目详情
24位精度是多少
数据采集卡中24位的精度和12位的精度是什么意思,
分别精确到小数点后几位?
▼优质解答
答案和解析
24位精度即2的24次方 =16777216 小数点后几位不一定,关键是有效数字位数可达8位(10进制)
12位精度即2的12次方 =4096 小数点后几位不一定,关键是有效数字位数可达4位(10进制)