请教数字绝对值函数，谢谢！

dushuren · 发表于 2017-12-14 19:04:00

马上加入TC

您需要登录才可以下载或查看，没有帐号？立即注册

x

本帖最后由 dushuren 于 2017-12-14 19:05 编辑

功能按钮9_点击()
//这里添加你要执行的代码
变量 R1 = 孔径,R2 = 孔径,D1 = 孔径,D2 = 孔径,Z = 偏心
D1 = 编辑框获取文本("编辑框40")
R1 = 编辑框获取文本("编辑框41")
D2 = 编辑框获取文本("编辑框42")
R2 = 编辑框获取文本("编辑框43")
Z = 数学绝对值(D1/R1)/4
编辑框设置文本("编辑框36",Z)
结束
计算后只有整数没有小数点后的数位，怎么解决，谢谢！

OOOO · 发表于 2017-12-14 19:41:42

本帖最后由 OOOO 于 2017-12-14 19:47 编辑

首先问题不是在"数学绝对值"身上
在TC中
整数除以整数得出的结果强制为整数
乘法中亦复如是
只要有一个是浮点型则得出的结果也会是浮点型
解决方案
Z = 数学绝对值(D1*1.0/R1)/4

dushuren · 发表于 2017-12-14 19:57:11

OOOO 发表于 2017-12-14 19:41
首先问题不是在"数学绝对值"身上
在TC中
整数除以整数得出的结果强制为整数

请问如何控制小数点后的位数呢？

言术 · 发表于 2017-12-15 07:24:40

dushuren 发表于 2017-12-14 19:57
请问如何控制小数点后的位数呢？

以小数点向右截取位数

dushuren · 发表于 2017-12-15 16:30:19

言术发表于 2017-12-15 07:24
以小数点向右截取位数

真够简洁的，还是不懂怎么弄

OOOO · 发表于 2017-12-16 14:59:14

本帖最后由 OOOO 于 2017-12-16 15:00 编辑

var num = 1.123456
num = strcut(num, 4, false)
结果:1.12

PS:字符串移除的话只是硬生生的移除,不能做到四舍五入的运算,一般做这种运算还是用js处理合适,但是并不是很多人都会js

帐号		自动登录	找回密码
密码			立即注册

[已解决] 请教数字绝对值函数，谢谢！

马上加入TC

推荐 /2