当前位置：首页 > 编程日记 > 正文

javascript(js)的小数点乘法除法问题

编程日记 2024-10-24 04:00:00

一、用js计算

12.32 * 7 结果是多少？

答案：86.24000000000001

为什么会出现这种问题？怎么解决？

js在处理小数的乘除法的时候有一个bug，解决的方法可以是：将小数变为整数来处理。

以上的计算可以改为：

12.32 * 100 * 7 /100

得出的结果是：86.24，正确。

另外再计算一下：

8.80 * 100 * 12 / 100

结果：105.60000000000002

38.80也会出现类似的问题。

精确度增加10倍：

8.80 * 1000 * 12 / 1000

结果：105.6

正常了。

16.40 * 1000000 * 6 / 1000000

结果也有问题

为了让js执行的更准确，在以后的js小数计算中直接将值扩大10000倍，再除以10000，就可以解决问题。

var num = 38.80;

var num2 = 13;

alert(num * 10000 * 12 / 10000);

被乘和除的这个数经过测试10000最合适，小了有些数字出问题，大了（1000000）有些数字也出问题。

二、

Number.prototype.rate=function(){

varoStr=this.toString();

if(oStr.indexOf(".")==-1)

return1;

else

returnMath.pow(10,parseInt(oStr.length-oStr.indexOf(".")-1));

}

functiontran(){

args=tran.arguments;

vartemp=1;

for(i=0;i<args.length;i++)

temp*=args[i]*args[i].rate();

for(i=0;i<args.length;i++)

temp/=args[i].rate();

returntemp

}

alert(tran(11,22.9));

</script>

该解决办法是比较麻烦的办法，但是却能让你大概了解解决这个问题的实际过程。

//除法函数，用来得到精确的除法结果

//说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。

//调用：accDiv(arg1,arg2)

//返回值：arg1除以arg2的精确结果

function accDiv(arg1,arg2){

var t1=0,t2=0,r1,r2;

try{t1=arg1.toString().split(".")[1].length}catch(e){}

try{t2=arg2.toString().split(".")[1].length}catch(e){}

with(Math){

r1=Number(arg1.toString().replace(".",""))

r2=Number(arg2.toString().replace(".",""))

return (r1/r2)*pow(10,t2-t1);

}

//给Number类型增加一个div方法，调用起来更加方便。

Number.prototype.div = function (arg){

return accDiv(this, arg);

}

//乘法函数，用来得到精确的乘法结果

//说明：javascript的乘法结果会有误差，在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。

//调用：accMul(arg1,arg2)

//返回值：arg1乘以 arg2的精确结果

function accMul(arg1,arg2)

{

var m=0,s1=arg1.toString(),s2=arg2.toString();

try{m+=s1.split(".")[1].length}catch(e){}

try{m+=s2.split(".")[1].length}catch(e){}

return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)

}

// 给Number类型增加一个mul方法，调用起来更加方便。

Number.prototype.mul = function (arg){

return accMul(arg, this);

}

//加法函数，用来得到精确的加法结果

//说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。

//调用：accAdd(arg1,arg2)

// 返回值：arg1加上arg2的精确结果

function accAdd(arg1,arg2){

var r1,r2,m;

try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}

try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}

m=Math.pow(10,Math.max(r1,r2))

return (arg1*m+arg2*m)/m

}

//给Number类型增加一个add方法，调用起来更加方便。

Number.prototype.add = function (arg){

return accAdd(arg,this);

}

https://www.dkcj.cn/info/24393.html

sDVD消防大队

数组-136. 只出现一次的数字题目描述题目样例Java方法：位运算算法思路代码复杂度题目描述给定一个非空整数数组，除了某个元素只出现一次以外，其余每个元素均出现两次。找出那个只出现了一次的元素。题目样例示例1： 输入: […

编程日记2024/10/24 03:50:00

WPF的二维绘图（二）——几何图形Geometry

在WPF的DrawingContext对象中，提供了基本的绘制椭圆和矩形的API：DrawEllipse和DrawRectangle。但是，这些是远远不够用的，我们在日常应用中，更多的是使用DrawGeometry函数，它可以绘制更多复杂的几何图形&…

编程日记2024/10/24 03:40:00

定期删除各子文件下数据

最近遇到一个客户有这样一个需求，需要在每日自动删除各用户文件夹下的数据而不删除根文件夹和每个用户父文件夹 Register-ScheduledJob -Name Remove-InternetDataFiles -ScriptBlock {$root "E:\Internet-Data"$dirs Get-ChildItem $root -Directoryfo…

编程日记2024/10/24 03:30:00

PHP使用BC Math 函数处理浮点运算问题

BC Math 函数 http://cn.php.net/manual/zh/ref.bc.php做小数的相加减问题是，出现了浮点运算不准的情况，看来都说解释型语言对于浮点运算都会有问题的说法是真的。首先看一段代码: <?php$a 0.1;$b 0.7;var_dump(($a $b) 0.8); 打印出来的值居然为…

编程日记2024/10/24 03:20:00

【重建】从FJOI2016一试谈起

2016.2.21 我是湖建的sb蒟蒻OIer FOIWCFJOI2016 体验性的旅途，新生其实是刚刚找回密码闲的没事干前排膜FZSZ各位学长 ORZ 闫神 ORZ 吴大爷 ORZ 汪巨 ORZ 邵司机 ORZ 方老师ORZ dxy zkp zzy 湖建省选一试被虐。不知道明年这个时候会有什么改变总而言之&#xff…

编程日记2024/10/24 03:10:00

pkg mysql 在macOS 上的管理

为什么80%的码农都做不了架构师？>>> 使用pkg安装后，在设置中启停，通过ps -ef|grep mysql查看进程的命令行即可看到各配置位置。转载于:https://my.oschina.net/fox99/blog/1931674

编程日记2024/10/24 02:50:00

PHP autoload 函数

(1) autoload机制概述在使用PHP的OO模式开发系统时，通常大家习惯上将每个类的实现都存放在一个单独的文件里，这样会很容易实现对类进行复用，同时将来维护时也很便利。这也是OO设计的基本思想之一。在PHP5之前，如果需要使用一个…

编程日记2024/10/24 02:40:00

2019独角兽企业重金招聘Python工程师标准>>> SELECT t1.field1,t1.field2,t1.field3 from t1 where t1.pid in (select fid from t2 where t2.ch%123456%) 再看这段代码， select t.* from mefinance.me_customer_info t where t.id in (3285,4241,4243,4…

编程日记2024/10/24 02:30:00

为什么很努力进步却不明显

今天有个玩的不错的同事问了我一个问题：他说我今年在努力学习测试方法，自动化测试等等，也写了不少测试用例，但总体感觉好像没有什么进步啊？他想不明白这是什么原因。其实当我遇到这个问题的时候，我也想了一…

编程日记2024/10/24 02:20:00

spl_autoload_register与autoload区别

spl_autoload_register(PHP 5 > 5.1.2)spl_autoload_register — 注册__autoload()函数说明bool spl_autoload_register ([ callback $autoload_function ] )将函数注册到SPL __autoload函数栈中。如果该栈中的函数尚未激活，则激活它们。如果在你的程序中已经实现…

编程日记2024/10/24 02:10:00

宣传部vv从v

编程日记2024/10/24 02:00:00

自动配置IPv4问题

对于 Windows ， 配置 IP，如： 192.168.1.101， 如果这个 IP 已经在局域网内存在，那么将会提示局域网内已经存在该 IP。而这个时候，Windows 7 将产生一个 “自动配置IPv4地址”，如：169…

编程日记2024/10/24 01:50:00

营销自动化为什么能吸引企业的喜欢？它有何魅力？

在一次营销峰会上，我们听到这样一个令人惊讶的描述：“到2020年底，将会有85%的客户与企业的关系在没有人际互动的情况下进行管理。”虽然这听起来可能有点超前，但从营销的角度来看，“未来”已来。这个“未来”就是我们所…

编程日记2024/10/24 01:40:00

php base64解码图片 base64加密图片还原

<?php//文件名:base64.php $data"/9j/4AAQSkZJRgABAQAAAQABAAD/2wCEABALDA4MChAODQ4SERATGCgaGBYWGDEjJR0oOjM9PDkzODdASFxOQERXRTc4UG1RV19iZ2hnPk1xeXBkeFxlZ2MBERISGBUYLxoaL2NCOEJjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY2NjY//AABEIADIA…

编程日记2024/10/24 01:30:00

python mysql

2019独角兽企业重金招聘Python工程师标准>>> python实践3：cursor() — 数据库连接操作 (2012-05-07 11:00:40) 转载▼ 标签： itpython 操作数据库，要安装一个Python和数据库交互的包MySQL-python-1.2.2.win32-py2.5.exe&#xff0…

编程日记2024/10/24 01:20:00

程序员效率低下的35个坏习惯

优秀程序员与平庸程序员的最终差别其实是习惯，避开那些让自己低效的坏习惯是程序员让自己变优秀的有效途径。 1.总是说“一会弄好”，但从来不兑现。（缺乏任务管理和时间管理能力）2坚持所谓的高效、优雅的“一行代码流”&#xff0…

编程日记2024/10/24 01:10:00

PHP处理Oracle的CLOB

1. 写入数据在使用PDO的预处理方法时，如果使用bindParam()等而不指定字段的数据类型或使用execute()，PDO都会默认为string类型，并且限定一个默认长度所以在存clob类型字段时必须使用bindParam()或bindValue()等，并指定字符…

编程日记2024/10/24 01:00:00

c# 元组Tuple

Tuple类型像一个口袋，在出门前可以把所需的任何东西一股脑地放在里面。您可以将钥匙、驾驶证、便笺簿和钢笔放在口袋里，您的口袋是存放各种东西的收集箱。C# 4.0引入的一个新特性 Tuple类型与口袋类似，它可以存放不同类型的对象。CodeProject…

编程日记2024/10/24 00:50:00

KVM之安装虚拟机

一、KVM安装：环境要求：1、如果是物理服务器，需要在BIOS中打开虚拟化VirtualizationTechnology一般的服务器默认是打开这个功能的。 2、如果是用VMware Workstation做实验，建立的虚拟机的CPU要勾选虚拟化功能，这样虚拟机…

编程日记2024/10/24 00:40:00

使用 Strace 调试工具

strace是Linux环境下的一款程序调试工具，用来监察一个应用程序所使用的系统呼叫及它所接收的系统信息。 strace是一个有用的小工具，它可以通过跟踪系统调用来让你知道一个程序在后台所做的事情。Strace是一个基础的调试工具，在大多数Linux系 …

编程日记2024/10/24 00:30:00

java——网络知识积累

1.获得局域网的所有主机ip地址 ping ip 等待每次回复的超时时间： -w 280 要发送的回显请求数：-n 1 Process processRuntime.getRuntime().exec("ping "); process.getInputStream()----InputStreamReader()----BufferReader in…

编程日记2024/10/24 00:20:00

卸载v吧v字典序

编程日记2024/10/24 00:10:00

《JavaScript高级程序设计（第3版）》教程大纲

词条《JavaScript高级程序设计》是2006年人民邮电出版社出版的图书，作者是(美)(Nicholas C.Zakas)扎卡斯。本书适合有一定编程经验的开发人员阅读，也可作为高校相关专业课程的教材。献给搬砖人士，求职人士很不错的基础扎实笔记前四章 js诞…

编程日记2024/10/24 00:00:00

鸡肋的PHP单例模式

单例模式的要点有三个：一是某个类只能有一个实例；二是它必须自行创建这个实例；三是它必须自行向整个系统提供这个实例。<?php /* 单例模式举例,其要点如下: * * 1. $_instance 必须声明为静态的私有变量 * 2. 构造函数和克隆函数必须声明…

编程日记2024/10/23 23:50:00

彻底理解js中this

相关博文：http://blog.csdn.net/libin_1/article/details/49996815彻底理解js中this的指向，不必硬背。首先必须要说的是，this的指向在函数定义的时候是确定不了的，只有函数执行的时候才能确定this到底指向谁，实际上t…

编程日记2024/10/23 23:40:00

cvsdfgdfdf

编程日记2024/10/23 23:30:00

怎样操作vue.js使用3DES加密

如何在VUE-CLI手脚架建立的工程中使用3des加密： 1npm install crypto-js --save-dev1import CryptoJS from crypto-js123456789101112131415161718192021222324252627//DES加密 Pkcs7填充方式encryptByDES(message, key){const keyHex CryptoJS.enc.Utf8.parse(key…

编程日记2024/10/23 23:20:00

PHP 函数 ignore_user_abort定时执行任务的实现

ignore_user_abort 设置与客户机断开是否会终止脚本的执行。本函数返回 user-abort 设置的之前的值（一个布尔值）。int ignore_user_abort ([ string $value ] )参数描述setting可选。如果设置为 true，则忽略与用户的断开，如果设置…

编程日记2024/10/23 23:10:00

echarts树图节点垂直间距_矿棉板吊顶标准工艺节点

材料探秘materials材料版块【矿棉板吊顶标准工艺】材料探秘关键词：#吊杆与设备#吊顶龙骨#矿棉板#1 吊杆与设备相遇增加过桥节点图 ■ 本工艺管控要点◎ 顶面的水、电、风专业强制定位、预留、预埋必须全部完成，且电气穿线、测试完成并合格&#xf…

编程日记2024/10/23 23:00:00