labview中要注意数据的表示格式
扫描二维码
随时随地手机看文章
在这个小程序中,我发现 乘
开始并没注意到是数据格式的问题。
那我们右键输出接点会弹出这样的对话框
表示法显示的是U16 而U16最大值为65536.所以 溢出了。
而U16是因为匹配到源数据类型才是U16的。如果前面的数据格式为U32则 这个输出也为U32。
我们不想修改前面的数据格式,因为U16对于前面的足够了,大了浪费内存。
那我们只要修改该输出的数据格式就好了。改成U32。
问题解决。
扫描二维码
随时随地手机看文章
在这个小程序中,我发现 乘
开始并没注意到是数据格式的问题。
那我们右键输出接点会弹出这样的对话框
表示法显示的是U16 而U16最大值为65536.所以 溢出了。
而U16是因为匹配到源数据类型才是U16的。如果前面的数据格式为U32则 这个输出也为U32。
我们不想修改前面的数据格式,因为U16对于前面的足够了,大了浪费内存。
那我们只要修改该输出的数据格式就好了。改成U32。
问题解决。