返回列表 回复 发帖
"浮点运算中的很多大吃小的问题
是什么样的问题,能具体一点吗?
由于计算机位数所限,数量级悬殊很大的数在运算时的“对阶”中,可能出现小数“隐消”,即小数被大数“吃掉”的现象。例如在八位机上解一元二次方程:x^2-(10^9+1)x+10^9=0会得到两根分别是x=10^9和x=0。显然,第二个错。
修正bug更新之
再造二三四次方程求根公式2014.gsp (50.33 KB)
请继续测试。
23# changxde
还有问题: 再造二三四次方程求根公式2014(err).gsp (54.85 KB)
23# changxde
还有问题:21035
分形几何 发表于 2014-1-24 22:29
修正一处bug
23#文件更新,请继续测试
返回列表