如果能回去 发表于 2014-2-26 21:36:15

VBAI串口传数据,小数点后如何做才不自动自舍五入

VBAI串口传数据,小数点后如何做才不自动自舍五入?请各位VBAI的大大们指个思路出来?

石鑫华视觉 发表于 2014-2-26 22:05:35

VBAI浮点数据结构默认是使用两位小数的,如果要改其它的,就将小数位多加几个。不过总是会有一个位数上是“四舍五入”的。
NI的小数进位并不是一般的四舍五入,5以下为舍,5以上为入,当小数为5时,会将前面的数变成最近的偶数。如3.14=3.1,3.16=3.2,3.15=3.2,3.25=3.2
页: [1]
查看完整版本: VBAI串口传数据,小数点后如何做才不自动自舍五入

LabVIEW HALCON图像处理入门教程(第二版)
石鑫华机器视觉与LabVIEW Vision图像处理PDF+视频教程11种全套
《LabVIEW Vision函数实例详解》教程-NI Vision所有函数使用方法介绍,基于NI VISION2020,兼容VDM21/22/23