标签： 精度

一、为什么需要将int转换为long 在进行数据处理时，如果数据类型为int，可能会因为精度限制而导致数据溢出或者计算结果不准确。此时就需要将数据类型转换为long。 例如，当我们需要对大型整数进行计 … Continue reading 提高程序精度——int转换为long的正确方法(int到long的转换)

双精度浮点数在计算机科学中是一个非常重要的概念，本文将从多个方面对其进行详细阐述。 一、基本概念 双精度浮点数是计算机科学中的一种数据类型，用于表示实数。其占用8个字节（64位）存储空间，通常被写作 … Continue reading 双精度浮点数用法介绍(半/单/双精度浮点数)

一、常用对数的定义和性质         在数学中，以10为底的对数又称为常用对数，通常用“lg”表示。在计算机中求解常 … Continue reading 优化数字精度，求取以10为底的对数(如何使用LOG10函数求取以10为)