注意: 本文内容于 2024-09-15 20:21:12 创建,可能不会在此平台上进行更新。如果您希望查看最新版本或更多相关内容,请访问原文地址:小记编程语言浮点精度问题。感谢您的关注与支持!
浮点数在计算机中不能精确表示所有的十进制小数,所以在进行运算时可能会出现微小的误差。
浮点数精度问题主要影响使用二进制浮点表示法的编程语言。大多数主流编程语言(如 Java、C、C++、Python、JavaScript 和 Ruby)都使用 IEEE 754 标准来表示浮点数,因此都会受到这一问题的影响。
直观的测试
0.14*100
0.12*100

我后面采取的方式是四舍五入保留一位小数。
/**
 * 将传入的 double 转换为小数点后一位
 *
 * @param value 要转换的 double 值
 * @return 转换后的小数点后一位的字符串
 */
public static double roundToOneDecimal(double value) {
    BigDecimal bd = new BigDecimal(value);
    BigDecimal roundedValue = bd.setScale(1, RoundingMode.HALF_UP);  // 四舍五入到小数点后一位
    return roundedValue.doubleValue();  // 返回字符串形式的结果
}





![【洛谷】P10417 [蓝桥杯 2023 国 A] 第 K 小的和 的题解](https://img-blog.csdnimg.cn/img_convert/bb465fd71adb7c9864eac11c84f68787.png)





![[Linux] Linux进程PCB内部信息的深入理解](https://i-blog.csdnimg.cn/direct/720a05b41a57462fa6232d047c1836ce.png)







