最新文章专题视频专题问答1问答10问答100问答1000问答2000关键字专题1关键字专题50关键字专题500关键字专题1500TAG最新视频文章推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37视频文章20视频文章30视频文章40视频文章50视频文章60 视频文章70视频文章80视频文章90视频文章100视频文章120视频文章140 视频2关键字专题关键字专题tag2tag3文章专题文章专题2文章索引1文章索引2文章索引3文章索引4文章索引5123456789101112131415文章专题3
当前位置: 首页 - 科技 - 知识百科 - 正文

聊聊js的运算精度问题

来源:动视网 责编:小采 时间:2020-11-03 23:08:43
文档

聊聊js的运算精度问题

聊聊js的运算精度问题:都知道拿js去做运算肯定会遇到计算精准的问题(或称舍入误差),但是怎么避开这些坑,这里是我从网上整理的方案,欢迎探讨。精准丢失的原因计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926…,1.333
推荐度:
导读聊聊js的运算精度问题:都知道拿js去做运算肯定会遇到计算精准的问题(或称舍入误差),但是怎么避开这些坑,这里是我从网上整理的方案,欢迎探讨。精准丢失的原因计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926…,1.333

都知道拿js去做运算肯定会遇到计算精准的问题(或称舍入误差),但是怎么避开这些坑,这里是我从网上整理的方案,欢迎探讨。

1.jpg

精准丢失的原因

计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926…,1.3333… 等。JavaScript 使用 64 位存储数字类型,因此超出的会舍去。舍去的部分就是精度丢失的部分。

以下是十进制小数对应的二进制表示

0.1 >> 0.0001 1001 1001 1001…(1001无限循环)
0.2 >> 0.0011 0011 0011 0011…(0011无限循环)

解决方案

如需要更加复杂的计算类库,可以考虑 math.js等知名类库

浮点数(小数)

对于小数,前端出现问题的几率还是很多的,尤其在一些电商网站涉及到金额等数据。解决方式:把小数放到位整数(乘倍数),再缩小回原来倍数(除倍数)转换成整数后的运算结果 不能超过 Math.pow(2,53)

// 0.1 + 0.2
(0.1*10 + 0.2*10) / 10 == 0.3 // true

浮点精准运算

/**
 * floatObj 包含加减乘除四个方法,能确保浮点数运算不丢失精度
 *
 * ** method **
 * add / subtract / multiply /divide
 *
 * ** explame **
 * 0.1 + 0.2 == 0.30000000000000004 (多了 0.00000000000004)
 * 0.2 + 0.4 == 0.6000000000000001 (多了 0.0000000000001)
 * 19.9 * 100 == 1989.9999999999998 (少了 0.0000000000002)
 *
 * floatObj.add(0.1, 0.2) >> 0.3
 * floatObj.multiply(19.9, 100) >> 1990
 *
 */
var floatObj = function() {
 /*
 * 判断obj是否为一个整数
 */
 function isInteger(obj) {
 return Math.floor(obj) === obj
 }
 /*
 * 将一个浮点数转成整数,返回整数和倍数。如 3.14 >> 314,倍数是 100
 * @param floatNum {number} 小数
 * @return {object}
 * {times:100, num: 314}
 */
 function toInteger(floatNum) {
 var ret = {times: 1, num: 0}
 if (isInteger(floatNum)) {
 ret.num = floatNum
 return ret
 }
 var strfi = floatNum + ''
 var dotPos = strfi.indexOf('.')
 var len = strfi.substr(dotPos+1).length
 var times = Math.pow(10, len)
 var intNum = parseInt(floatNum * times + 0.5, 10)
 ret.times = times
 ret.num = intNum
 return ret
 }
 /*
 * 核心方法,实现加减乘除运算,确保不丢失精度
 * 思路:把小数放大为整数(乘),进行算术运算,再缩小为小数(除)
 *
 * @param a {number} 运算数1
 * @param b {number} 运算数2
 * @param digits {number} 精度,保留的小数点数,比如 2, 即保留为两位小数
 * @param op {string} 运算类型,有加减乘除(add/subtract/multiply/divide)
 *
 */
 function operation(a, b, digits, op) {
 var o1 = toInteger(a)
 var o2 = toInteger(b)
 var n1 = o1.num
 var n2 = o2.num
 var t1 = o1.times
 var t2 = o2.times
 var max = t1 > t2 ? t1 : t2
 var result = null
 switch (op) {
 case 'add':
 if (t1 === t2) { // 两个小数位数相同
 result = n1 + n2
 } else if (t1 > t2) { // o1 小数位 大于 o2
 result = n1 + n2 * (t1 / t2)
 } else { // o1 小数位 小于 o2
 result = n1 * (t2 / t1) + n2
 }
 return result / max
 case 'subtract':
 if (t1 === t2) {
 result = n1 - n2
 } else if (t1 > t2) {
 result = n1 - n2 * (t1 / t2)
 } else {
 result = n1 * (t2 / t1) - n2
 }
 return result / max
 case 'multiply':
 result = (n1 * n2) / (t1 * t2)
 return result
 case 'divide':
 result = (n1 / n2) * (t2 / t1)
 return result
 }
 }
 // 加减乘除的四个接口
 function add(a, b, digits) {
 return operation(a, b, digits, 'add')
 }
 function subtract(a, b, digits) {
 return operation(a, b, digits, 'subtract')
 }
 function multiply(a, b, digits) {
 return operation(a, b, digits, 'multiply')
 }
 function divide(a, b, digits) {
 return operation(a, b, digits, 'divide')
 }
 // exports
 return {
 add: add,
 subtract: subtract,
 multiply: multiply,
 divide: divide
 }
}();

使用方法:

floatTool.add(a,b);//相加
floatTool.subtract(a,b);//相减
floatTool.multiply(a,b);//相乘
floatTool.divide(a,b);//相除

超大整数

虽然运算结果不超过Math.pow(2,53)的整数(9007199254740992)也可以使用上面的方法,但是如果就是有超过的呢,实际场景中可能会是一些批次号、号段之类的需求,这里我也找到了一个解决方案,直接上代码。

在线运算:https://www.shen.ee/math.html

function compare(p, q) {
 while (p[0] === '0') {
 p = p.substr(1);
 }
 while (q[0] === '0') {
 q = q.substr(1);
 }
 if (p.length > q.length) {
 return 1;
 } else if (p.length < q.length) {
 return -1;
 } else {
 let i = 0;
 let a, b;
 while (1) {
 a = parseInt(p.charAt(i));
 b = parseInt(q.charAt(i));
 if (a > b) {
 return 1;
 } else if (a < b) {
 return -1;
 } else if (i === p.length - 1) {
 return 0;
 }
 i++;
 }
 }
}
function divide(A, B) {
 let result = [];
 let max = 9;
 let point = 5;
 let fill = 0;
 if (B.length - A.length > 0) {
 point += fill = B.length - A.length;
 }
 for (let i = 0; i < point; i++) {
 A += '0';
 }
 let la = A.length;
 let lb = B.length;
 let b0 = parseInt(B.charAt(0));
 let Adb = A.substr(0, lb);
 A = A.substr(lb);
 let temp, r;
 for (let j = 0; j < la - lb + 1; j++) {
 while (Adb[0] === '0') {
 Adb = Adb.substr(1);
 }
 if (Adb.length === lb) {
 max = Math.ceil((parseInt(Adb.charAt(0)) + 1) / b0); // 不可能取到这个最大值,1<= max <= 10
 } else if (Adb.length > lb) {
 max = Math.ceil((parseInt(Adb.substr(0, 2)) + 1) / b0);
 } else {
 result.push(0);
 Adb += A[0];
 A = A.substr(1);
 continue;
 }
 for (let i = max - 1; i >= 0; i--) {
 if (i === 0) {
 result.push(0);
 Adb += A[0];
 A = A.substr(1);
 break;
 } else {
 temp = temp || multiply(B, i + '');
 r = compare(temp, Adb);
 if (r === 0 || r === -1) {
 result.push(i);
 if (r) {
 Adb = reduce(Adb, temp);
 Adb += A[0];
 } else {
 Adb = A[0];
 }
 A = A.substr(1);
 break;
 } else {
 temp = reduce(temp, B);
 }
 }
 }
 temp = 0;
 }
 for (let i = 0; i < fill; i++) {
 result.unshift('0');
 }
 result.splice(result.length - point, 0, '.');
 if (!result[0] && result[1] !== '.') {
 result.shift();
 }
 point = false;
 let position = result.indexOf('.');
 for (let i = position + 1; i < result.length; i++) {
 if (result[i]) {
 point = true;
 break;
 }
 }
 if (!point) {
 result.splice(position);
 }
 result = result.join('');
 return result;
}
function multiply(A, B) {
 let result = [];
 (A += ''), (B += '');
 const l = -4; // 以支持百万位精确运算,但速度减半
 let r1 = [],
 r2 = [];
 while (A !== '') {
 r1.unshift(parseInt(A.substr(l)));
 A = A.slice(0, l);
 }
 while (B !== '') {
 r2.unshift(parseInt(B.substr(l)));
 B = B.slice(0, l);
 }
 let index, value;
 for (let i = 0; i < r1.length; i++) {
 for (let j = 0; j < r2.length; j++) {
 value = 0;
 if (r1[i] && r2[j]) {
 value = r1[i] * r2[j];
 }
 index = i + j;
 if (result[index]) {
 result[index] += value;
 } else {
 result[index] = value;
 }
 }
 }
 for (let i = result.length - 1; i > 0; i--) {
 result[i] += '';
 if (result[i].length > -l) {
 result[i - 1] += parseInt(result[i].slice(0, l));
 result[i] = result[i].substr(l);
 }
 while (result[i].length < -l) {
 result[i] = '0' + result[i];
 }
 }
 if (result[0]) {
 result = result.join('');
 } else {
 result = '0';
 }
 return result;
}
function add(A, B) {
 let result = [];
 (A += ''), (B += '');
 const l = -15;
 while (A !== '' && B !== '') {
 result.unshift(parseInt(A.substr(l)) + parseInt(B.substr(l)));
 A = A.slice(0, l);
 B = B.slice(0, l);
 }
 A += B;
 for (let i = result.length - 1; i > 0; i--) {
 result[i] += '';
 if (result[i].length > -l) {
 result[i - 1] += 1;
 result[i] = result[i].substr(1);
 } else {
 while (result[i].length < -l) {
 result[i] = '0' + result[i];
 }
 }
 }
 while (A && (result[0] + '').length > -l) {
 result[0] = (result[0] + '').substr(1);
 result.unshift(parseInt(A.substr(l)) + 1);
 A = A.slice(0, l);
 }
 if (A) {
 while ((result[0] + '').length < -l) {
 result[0] = '0' + result[0];
 }
 result.unshift(A);
 }
 if (result[0]) {
 result = result.join('');
 } else {
 result = '0';
 }
 return result;
}
function reduce(A, B) {
 let result = [];
 (A += ''), (B += '');
 while (A[0] === '0') {
 A = A.substr(1);
 }
 while (B[0] === '0') {
 B = B.substr(1);
 }
 const l = -15;
 let N = '1';
 for (let i = 0; i < -l; i++) {
 N += '0';
 }
 N = parseInt(N);
 while (A !== '' && B !== '') {
 result.unshift(parseInt(A.substr(l)) - parseInt(B.substr(l)));
 A = A.slice(0, l);
 B = B.slice(0, l);
 }
 if (A !== '' || B !== '') {
 let s = B === '' ? 1 : -1;
 A += B;
 while (A !== '') {
 result.unshift(s * parseInt(A.substr(l)));
 A = A.slice(0, l);
 }
 }
 while (result.length !== 0 && result[0] === 0) {
 result.shift();
 }
 let s = '';
 if (result.length === 0) {
 result = 0;
 } else if (result[0] < 0) {
 s = '-';
 for (let i = result.length - 1; i > 0; i--) {
 if (result[i] > 0) {
 result[i] -= N;
 result[i - 1]++;
 }
 result[i] *= -1;
 result[i] += '';
 while (result[i].length < -l) {
 result[i] = '0' + result[i];
 }
 }
 result[0] *= -1;
 } else {
 for (let i = result.length - 1; i > 0; i--) {
 if (result[i] < 0) {
 result[i] += N;
 result[i - 1]--;
 }
 result[i] += '';
 while (result[i].length < -l) {
 result[i] = '0' + result[i];
 }
 }
 }
 if (result) {
 while ((result[0] = parseInt(result[0])) === 0) {
 result.shift();
 }
 result = s + result.join('');
 }
 return result;
}

使用方法:不可使用负数,参数最好使用字符串

divide(A,B) // 除法
multiply(A,B) //乘法
add(A,B) //加法
reduce(A,B) //减法

toFixed 的修复

在Firefox / Chrome中,toFixed并不会对于最后一位是5的如愿以偿的进行四舍五入。

1.35.toFixed(1) // 1.4 正确
1.335.toFixed(2) // 1.33 错误
1.3335.toFixed(3) // 1.333 错误
1.33335.toFixed(4) // 1.3334 正确
1.333335.toFixed(5) // 1.33333 错误
1.3333335.toFixed(6) // 1.333333 错误

Firefox 和 Chrome的实现没有问题,根本原因还是计算机里浮点数精度丢失问题。

修复方式:

function toFixed(num, s) {
 var times = Math.pow(10, s)
 var des = num * times + 0.5
 des = parseInt(des, 10) / times
 return des + ''
}

本篇文章到这里就已经全部结束了,更多其他精彩内容可以关注PHP中文网的JavaScript视频教程栏目!

文档

聊聊js的运算精度问题

聊聊js的运算精度问题:都知道拿js去做运算肯定会遇到计算精准的问题(或称舍入误差),但是怎么避开这些坑,这里是我从网上整理的方案,欢迎探讨。精准丢失的原因计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926…,1.333
推荐度:
标签: js 计算 的计算
  • 热门焦点

最新推荐

猜你喜欢

热门推荐

专题
Top