关于C++的精度问题


编写程序时,循环过程中有一矩阵公式,使用matlab写时,是可以参与运算的,最后得出的迭代结果也是会变化的,但是用C++编写时,发现得出的结果每一次基本没有发生变化,然后该矩阵中都是分数或者是0,分母都很大,但是C++的精度不是要比matlab的精度要好一些吗?为什么此时的结果会基本不变呢?

C++ matlab 精度

tyrant 9 years, 9 months ago

你用的是int还是float还是double?好歹贴点代码撒

EXYRS answered 9 years, 9 months ago

Your Answer