博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
对于保证浮点数计算的正确性,有两种常见方式
阅读量:4667 次
发布时间:2019-06-09

本文共 451 字,大约阅读时间需要 1 分钟。

// 解释一下下面代码的输出

console.log(0.1 + 0.2); //0.30000000000000004

console.log(0.1 + 0.2 == 0.3); //false

 

// 对于保证浮点数计算的正确性,有两种常见方式。

// 一是先升幂再降幂:

function add(num1, num2){  let r1, r2, m;  r1 = (''+num1).split('.')[1].length;  r2 = (''+num2).split('.')[1].length;  m = Math.pow(10,Math.max(r1,r2));  return (num1 * m + num2 * m) / m;}console.log(add(0.1,0.2));   //0.3console.log(add(0.15,0.2256)); //0.3756

 

转载于:https://www.cnblogs.com/laneyfu/p/7065906.html

你可能感兴趣的文章
阅读笔记06
查看>>
《http权威指南》读书笔记14
查看>>
2019 COMPSYS 302 Class Protocol V6
查看>>
win7主机与linux虚拟机共享方法之右键添加Sharing Options
查看>>
网友写的验证码生成方案,可防止绝大多数机械识别。
查看>>
8 个最好的 jQuery 树形 Tree 插件
查看>>
软件质量与测试 黑盒测试
查看>>
Salesforce.com + AutoCAD WS集成研究集锦
查看>>
Office 2007在安装过程中出错
查看>>
浅析Hibernate映射(五)——集合映射
查看>>
java.lang.ClassNotFoundException: com.sun.xml.ws.spi.ProviderImpl解决办法
查看>>
检测到在集成的托管管道模式下不适用的ASP.NET设置的解决方法(非简单设置为【经典】模式)。 - CatcherX...
查看>>
Bitmap处理
查看>>
C语言记录汇总
查看>>
webservices系列(三)——调用线上webservice(天气预报和号码查询)
查看>>
callback 模式
查看>>
什么是servlet
查看>>
Something about TFS
查看>>
用haslib给字符加密
查看>>
mysql limit分页查询效率
查看>>