Matlab精度，sprintf('%.40g',7/10)的问题
2015-05-24 21:54
190 查看
>> sprintf('%.40g',7/10)
ans =
0.69999999999999996
这就是Matlab的问题，你也可以尝试一下别的小数。
解决的方法是，用符号运算：
>> a=sym(7/10);
>> vpa(a)
ans =
0.7
ans =
0.69999999999999996
这就是Matlab的问题，你也可以尝试一下别的小数。
解决的方法是，用符号运算：
>> a=sym(7/10);
>> vpa(a)
ans =
0.7
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- MATLAB: xcb_xlib.c:50: xcb_xlib_unlock: Assertion `c->xlib.lock' failed问题
- Git Push问题remote: hooks/update:10 undefined method 'require_relative' for main:Object(NomethodError)
- 用scrapy框架时，出现问题：ValueError: invalid literal for int() with base 10: 'dev0'
- 席位分配问题——惯例Q值法和d'hondt法的MATLAB程序
- 关于MATLAB函数不可用问题。??? Undefined function or method 'minfo' for input arguments of type 'double'.
- php sprintf() 详解——sprintf('%08x',number);
- onClientClick=''return confirm与验证控件冲突问题
- c++ 学习中遇到的问题： error C2065: 'ifstream' : undeclared identifier
- sql server常有的问题-实时错误'91' 对象变量或with块变量未设置
- iBatis 中 Like '%iBatis%' 的写法实现模糊查询
- HOJ-GSM-Graham's Scan法求解凸包问题
- [Django模板系统]Non-ASCII character 'xe5' in file报错问题
- 关于ADB server didn't ACK的问题
- libstdc++.so.6: version `GLIBCXX_3.4.15' not found问题和相应的解决方法
- android中遇到java.lang.NumberFormatException: unable to parse 'null' as integer此类问题的原因及解决方法
- lua module 'ltn12' not found 问题解决
- 关于fatal error C1083: Cannot open precompiled header file: /'Debug…….pch/': 错 问题的解决
- fatal error: malformed or corrupted AST file: 'Unable to load module Darwin.pcm 问题解决
- MATLAB中feval、class、'function_handle'、isa、strcmp的用法
- 解决Tomcat: Can't load IA 32-bit .dll on a AMD 64-bit platform问题