做国学类网站合法吗,嘉兴网站推广优化公司,没有备案的网站 公司服务器 查到会怎么样,抖音带运营摘要 探讨 MATLAB 中 附近数的余弦函数的计算精度问题。
例1. 已知 计算 与 直接贴图吧#xff1a; 另外#xff0c;16位的正确值分别为 -0.3012758451921695e-7 与 -0.3765996542384011e-10#xff08;ISRealsoft 提供#xff09;。 容易看出#xff0c;MATLAB的输…摘要 探讨 MATLAB 中 附近数的余弦函数的计算精度问题。
例1. 已知 计算 与 直接贴图吧 另外16位的正确值分别为 -0.3012758451921695e-7 与 -0.3765996542384011e-10ISRealsoft 提供。 容易看出MATLAB的输出中与红色数字对应的有效数字是错误数字。这样MATLAB的输出中分别有9位、12位错误数字有效数字的错误率分别为 9/16 56.25% , 12/16 75% . 注可参考计算机的错误计算六十五。
