matlab中计算精度的问题
2008-03-17 06:01
316 查看
我最近在用matlab 的时候，遇见了明明显示的行列式上的两行或两列上的值相同，得到的行列式的值却是一个极小数，不等于0，原因可能是matlab显示精度的影响，它的值是四舍五入了，所以为了得到具有相同两行或两列的行列式为0，假设是四位小数！
A = round（10000*A）/10000
（点子借鉴）
这样就可获得正确的行列式的值！
A = round（10000*A）/10000
（点子借鉴）
这样就可获得正确的行列式的值！
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- java float计算精度丢失问题剖析
- java中计算精度问题的解决--BigDecimal类的使用
- 偶尔看到有关float/double计算精度的问题,做个backup
- 关于JavaScript中计算精度丢失的问题
- Matlab精度，sprintf('%.40g',7/10)的问题
- java中floatdouble浮点数的计算失精度问题
- iOS--手动计算frame的精度丢失问题
- 关于JavaScript中计算精度丢失的问题（一）
- BigDecimal.setScale()方法用于商业计算的精度设置问题详解
- matlab中的显示精度问题
- JS 浮点型计算的精度问题 推荐的js 库 推荐的类库 Numeral.js 和 accounting.js
- js，java小数计算精度问题
- Java中不同数值类型间转换与计算精度丢失问题
- 使用matlab计算DFT时需要注意的幅值对应问题
- Exponentiation-计算精度问题
- 详解iOS之关于double/float数据计算精度问题
- Java 各数据类型计算的精度问题
- java中的数据精度计算问题
- 关于计算订单价格，转换后差一分钱的解决方法（浮点数精度问题）
- 关于matlab提示“警告: 矩阵为奇异工作精度” 的问题