Python 计算皮尔逊 负数求根的运算问题

[luoerxiansheng]

print (738.0-pow(340.0,2)/len(v1)),(3782.6436028-pow(1634.18064594,2)/len(v1))

print sum1sq, sum1, sum2sq, sum2

print '='*30

print sum2sq

print pow(sum2, 2) / 706

print sum2sq - pow(sum2, 2) / 706

print '=' * 30

下面是执行的结果


574.260623229 1.68902261066e-08

738.0 340.0 3782.6436028 1634.18064594

==============================

3782.6436028

3782.6436028

-7.32143234927e-11

==============================


上面的代码一一对应 我不明白

为什么会变成负数 而我写固定的数能计算正确 有没有大佬解惑 谢谢啦

[msg7086]

不太懂你说的东西，不过我看到

3782.6436028
3782.6436028

这两个是一样的？什么东西变成了负数？

[mulog]

目测浮点数精度问题 有精度要求改用 Decimal

[luoerxiansheng]

应该是浮点数精度问题

[luoerxiansheng]

@msg7086 就是两个相同的数最后进行减法计算 得出负数

[msg7086]

@luoerxiansheng 数值运算误差。

[msg7086]

首先这两个数并不相同。