最近在玩计算器的时候发现了一道很奇怪的数学题,大家帮我看看...@给10个子儿@

最近在玩计算器的时候发现了一道很奇怪的数学题,大家帮我看看...@给10个子儿@
1÷3=三分之一（没错吧？）↓
三分之一化为小数就是0.3的循环↓
然后当我用0.3的循环乘3的时候却发现答案是0.9的循环↓
难道那个0.1的循环被计算器吃掉了吗

chaoyang20040212 1年前已收到1个回答举报

名字qwe 幼苗

共回答了16个问题采纳率：100% 举报

这是因为计算器的储存单位有限.比如8个字符.所以当你把三分之一化成小数的时候,计算器实际上记录的是0.333333 （也就是3.33333×10^（-1）,我这么写,因为一般如果对每个结果的储存单位只有8个字符,那么储存的方法一般可能是5-6位给科学计数法表示的前面那部分（包括负号）,2-3位给指数（依然包括符号））.所以乘以三之后就成了0.999999.
当然有的计算器会仍然把答案以分数（分数在有限储存单位的情况下永远比小数表达方式精确）储存,所以结果仍然会是1.

1年前

可能相似的问题

你能帮帮他们吗

精彩回答