CDec_Visual Basic中的算法 - 线报百科mbji.cn

CDec

Visual Basic中的算法

Visual Basic中的算法在VB里，无论是怎样声明一个数值的型态，它都是以二进制做运算，二进制运算的缺点是会有浮点位数限制与误差，将数字转成十进制则问题解决啦。

数据类型

Decimal 数据类型

存储 128 位（16 字节）的有符号值，它表示按 10 的可变幂变大或变小的 96 位（12 字节）整数。

此比例因子指定小数点右边的数位，范围从 0 到 28。

比例为 0 时（没有小数位数），最大的可能值为 +/-79,228,162,514,264,337,593,543,950,335 (+/-7.9228162514264337593543950335E+28)。

如果小数位数为 28，则最大值为 +/-7.9228162514264337593543950335，且最小非零值为 +/-0.0000000000000000000000000001 (+/-1E-28)。

函数示例

下面的示例使用 CDec 函数将一个数值转换为 Decimal。

Dim aDouble As Double

Dim aDecimal As Decimal

aDouble = 10000000.0587

aDecimal = CDec(aDouble)

参考资料

最新修订时间：2021-08-19 15:04

条目作者

概述

数据类型

函数示例

参考资料