DSP28335的有效数字问题在DSP28335中,我需要用到一个sqrt(2/3)的常数.由于是常数,所以我们常常将其

DSP28335的有效数字问题
在DSP28335中,我需要用到一个sqrt(2/3)的常数.由于是常数,所以我们常常将其用#define来实现.现在的问题是,我应该对它精确到多少为为宜?
如果我给的位数太多,DSP是怎么处理的?是四舍五入还是直接把某一位以后的数字给忽略掉了?
飘零孤舟 1年前 已收到1个回答 举报

熊太厚 幼苗

共回答了18个问题采纳率:94.4% 举报

那要看你设置的数据类型了,单精度还是双精度的

1年前 追问

10

飘零孤舟 举报

如果是单精度,结果怎么样?如果数据类型是双精度类型呢?请明示,谢谢
可能相似的问题
Copyright © 2024 YULUCN.COM - 雨露学习互助 - 17 q. 0.013 s. - webmaster@yulucn.com