关于浮点运算出错问题 CP1W-ME05M
时间: 2018/5/31 6:17:31
LD P_On *F(456) CP1W-ME05M D10 CP1W-ME05M +100 D20
FIX(450) D20 D30
BCD(024) D30 D40
要求D10的浮点数（譬如4.20）转换成420（BCD），但实际结果是419.
但D10输入浮点数4.19，转换结果也是419.
同理4.18转换成417,4.17也是转换成417.
不知问题出在哪里？请问高手们遇到此类浮点数转换时
LD P_On *F(456) CP1W-ME05M D10 CP1W-ME05M +100 D20
FIX(450) D20 D30
BCD(024) D30 D40
要求D10的浮点数（譬如4.20）转换成420（BCD），但实际结果是419.
但D10输入浮点数4.19，转换结果也是419.
同理4.18转换成417,4.17也是转换成417.
不知问题出在哪里？请问高手们遇到此类浮点数转换时
Re： 时间: 2018/5/31 21:48:00
考虑乘以100改为乘以1000，再放大10倍，就不会出现这个情况
Re：Re： 时间: 2018/6/1 0:12:00
这个没有方法了。
Re：Re：Re： 时间: 2018/6/1 5:00:00
原帖由tomatopota发表于: 2014-05-22
考虑乘以100改为乘以1000，再放大10倍，就不会出现这个情况
你说的非常正确，我最后确实这样操作的。
考虑乘以100改为乘以1000，再放大10倍，就不会出现这个情况
你说的非常正确，我最后确实这样操作的。
下一条: 
上一条: 相关问题
相关产品
欧姆龙
输出单元
CP1W-8ET
输入：-。
输出：8点。
输入输出规格：晶体管 漏型。
高可靠性是电气控制设备的关键性能
欧姆龙
模拟输出单元
CP1W-DA041
模拟量输出：4点。
输入范围：1～5V/0～10V/正负10V/0～20mA/4～20mA
欧姆龙
RS-422A/485(缘型)选项板
CP1W-CIF12
选项板插槽1、2两者都可以安装。
1个温度模块多可以采集12路温度，
1台需要多个温控器的
欧姆龙
模拟输入单元
CP1W-AD041
模拟量输入：4点。
输入范围：0～5V/1～5V/0～10V/正负10V/0～20mA/4
相关下载