/**
* 将字符串或数字转换为指定精度的浮点数
*
* @param F{String ||
* Number} 要转换的字符串或浮点数
* @param len{Integer}
* 精度,默认小数点后两位
* @param returnNull{Boolean}
* 当F为非数字字符串时,返回null或原字符串,默认返回原字符串
*/
toFloat : function (F, len, returnNull) {
len = len >= 0 ? len : 2;
var f = parseFloat(F),nf;
var offset = 0;
if(!isNaN(f)){
var str = f.toString().split(".");
if(str.length==2){
if(str[1].length > len){
var si = parseInt(str[1].substr(0,len))+parseFloat("0." + str[1].charAt(len));
str[1] = Math.round(si).toString();
if(str[1].length > len){
offset = 1;
str[1]=str[1].substr(1,len);
}
}
}
str[0] = parseInt(str[0])+offset;
nf = str.length > 1 && len!==0 ? str.join(".") : str[0];
}
return nf ? nf : (returnNull ? null : F);
},
分享到:
相关推荐
matlab中的 tofloat函数,库函数中没有,自己定义才有
浮点数转化器,单精度浮点计算软件,FLOAT转HEX
在学习matlab过程中,发现没有找到tofloat函数,于是这个是自己按原书书上编的代码,绝对可以用,可以互相交流。tofloat函数就是把输入图像转换为浮点型的输出图像。
16位转浮点型float,MODBUS 32位转浮点型float 64位转双浮点型double
S7-200SMART 双精度浮点型数据转换为单精度浮点型的方法
matlab冈萨雷斯tofloat函数,intrans函数,gscale函数
labview int32 转换 float函数VI 符合 IEEE 754标准,适合8.6版本的labview 使用
Matlab实现对于图像的数字处理,实现Itrans图像变化,源代码包括多个子文件函数,如gamma、tofloat等
tofloat.m 函数,可以直接添加到matlab中应用。。。。
将4字节转float类型和将float型转4字节
matlab中tofloatdr.m文件函数源代码
自己写的32位十六进制数转成实数的函数 float a=X2I("40DD1EB8") ; //将得到a=6.91 float a=X2I("42480000") ; //将得到a=50 float a=X2I("41F00000") ; //将得到a=30
16进制单精度(32位)浮点型转换器,含有大端(左高位)、小端(右高位)
float转byte数组测试小工具
int与hex互转,double、float与hex互转,string与hex互转,个人总结,不需要积分。
在同一32位存储单元中, 32位二进制解释为整数或 IEEE754浮点数的输出结果. 希望对理解存储信息 和处理有用.
vb字节转浮点数的例程,可以直接使用. Private Sub Command1_Click() 'On Error Resume Next '无报错处理 Dim BB(0 To 3) As Byte Dim se As Single BB(0) = Text1.Text BB(1) = Text2.Text BB(2) = Text3.Text ...
java float:单精度浮点型
字节位数和float型转换小工具,可实现双向转换,占容小,速度快捷
自己动手写C语言float浮点数转换字符串的函数