网站维护的作用,深圳网络营销策划,切图网站建设,关键词智能调词工具摘要 探讨 MATLAB 关于算式 的计算误差。
例1. 已知 计算 直接贴图吧#xff1a; 然而#xff0c;16位的正确结果为 -0.9765626220703239e-21#xff08;ISRealsoft 提供#xff09;。这样#xff0c;MATLAB输出的有效数字的错误率为 (16-2)/16 87.5% . 注 然而16位的正确结果为 -0.9765626220703239e-21ISRealsoft 提供。这样MATLAB输出的有效数字的错误率为 (16-2)/16 87.5% . 注可参看计算机的错误计算一百二十三。 参考文献
[1] Ward Cheney, David Kincaid. Numerical Mathematics and Computing. 6th Ed. CA: Thomson Higher Education, 2008, p, 69
