您好,欢迎光临本网站![请登录][注册会员]  

搜索资源列表

  1. 整型值和浮点值的相互转换

  2. 这是关于Objective-C下整型值和浮点值的相互转换的范例。相关资料请参见苹果开发者Mike的博文http://u.bb/355623/1425-basic-conversions
  3. 所属分类:iOS

    • 发布日期:2011-04-25
    • 文件大小:1048576
    • 提供者:macdev
  1. 浮点计算编程原理、实现与应用

  2. 前言  第1章 引论   1.1 计算有什么用?    1.1.1 基础科学    1.1.2 应用科学    1.1.3 工程项目    1.1.4 日常生活   1.2 超高精度计算有什么用?   1.3 计算编程概述   1.4 一些缩写的解释 第1部分 原理与实现:通用仿真库  第2章 代码概述   2.1 基本内容   2.2 使用c++?    2.2.1 c还是c++?    2.2.2 c++与通用编程   2.3 c++代码的设计    2.3.1 使用模板    2.3.2
  3. 所属分类:C++

    • 发布日期:2011-12-06
    • 文件大小:12582912
    • 提供者:xqq524148626
  1. 大数运算(浮点型)

  2. 本代码可以实现浮点型的大数运算,包括加减乘除。可以通过改变SIZE和N的值来改变代码的性能
  3. 所属分类:C

    • 发布日期:2012-03-17
    • 文件大小:8192
    • 提供者:sanrilvmen
  1. 浮点指令.doc

  2. st(i):代表浮点寄存器,所说的出栈、入栈操作都是对st(i)的影响 src,dst,dest,op等都是指指令的操作数,src表示源操作数,dst/dest表示目的操作数 mem8,mem16,mem32,mem64,mem80等表示是内存操作数,后面的数值表示该操作数的内存位数(8位为一字节) x <- y 表示将y的值放入x,例st(0) <- st(0) - st(1)表示将st(0)-st(1)的值放入浮点寄存器st(0)
  3. 所属分类:其它

    • 发布日期:2012-07-26
    • 文件大小:144384
    • 提供者:cn_lshang
  1. 显式类型转换,类型强制转换为浮点型和整型

  2. 将变量i的类型强制转换为浮点型,并将其值赋给变量a 将变量j的类型强制转换为整型,并将其值赋给变量b
  3. 所属分类:专业指导

    • 发布日期:2008-12-26
    • 文件大小:342
    • 提供者:sunzen00
  1. 浮点值解析工具

  2. 浮点数十六进制转换器计算机专业的学生和喜欢软件逆向工程的爱好者都知道,浮点数在计算机内部是采用十六进制的方式存储的。
  3. 所属分类:网管软件

    • 发布日期:2018-05-23
    • 文件大小:212992
    • 提供者:qq_18709803
  1. MPFR浮点大数库在win32下的工程文件

  2. MPFR大数浮点库在WIN32平台下的移植。实现了一个控制台下的测试程序,使用表达式求值方式来进行计算。
  3. 所属分类:DOS

    • 发布日期:2020-09-17
    • 文件大小:10485760
    • 提供者:lqrscjs
  1. 惯性导航系统中浮点计算加速单元设计

  2. 石英振梁加速度计采用频率输出的形式表示加速度,在惯性导航系统中,需要将频率值转换为加速度值,再进行姿态解算。采用软件方法进行浮点计算,需要耗费CPU大量的计算能力。为了优化频率转换的计算速度,设计一种面向频率转换应用的浮点计算加速单元,并基于FPGA进行了实现与验证。结果表明,系统从数据采样到频率转换,然后将频率值转换成加速度进行姿态解算,陀螺仪测得的角速度进行积分,最后完成数据融合,使用本文设计的浮点加速单元来实现频率转换,速度提高了2倍。
  3. 所属分类:其它

    • 发布日期:2020-10-15
    • 文件大小:281600
    • 提供者:weixin_38705014
  1. 浅谈Cortex-M3内核浮点型运算的研究与实现

  2. 摘要:通过分析Cortex-M3内核的结构与浮点型格式,充分利用Cortex-M3内核中的分支预测、单周期乘法、硬件除法等众多功能强大的特性,使用Thumb-2指令集实现了单精度浮点型的加、减、乘、除与比较运算,并给出了加减法运算的流程图和除法运算的源程序。   引言   在一些较为复杂的运算中,经常需要处理取值范围大、精度高的浮点型数据。但一般的低端嵌入式内核中没有浮点型硬件运算器,因此处理语音信号等数据比较困难。本文提出了一种基于Cortex-M3内核的浮点型运算的处理方法。   1 Thu
  3. 所属分类:其它

    • 发布日期:2020-10-22
    • 文件大小:184320
    • 提供者:weixin_38711369
  1. 对于input 框限定输入值为浮点型的js代码

  2. 下面小编就为大家带来一篇对于input 框限定输入值为浮点型的js代码。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
  3. 所属分类:其它

    • 发布日期:2020-10-19
    • 文件大小:31744
    • 提供者:weixin_38524851
  1. 对于input 框限定输入值为浮点型的js代码

  2. 在一些项目中,比如金额用到浮点型,对于input  限定可以参考以下 [removed]   function only_num(obj){     //得到第一个字符是否为负号     var num = obj.value.charAt(0);     //先把非数字的都替换掉,除了数字和.     obj.value = obj.value.replace(/[^\d\.]/g,'');     //必须保证第一个为数字
  3. 所属分类:其它

    • 发布日期:2020-12-11
    • 文件大小:29696
    • 提供者:weixin_38571992
  1. PHP下的浮点运算不准的解决方法

  2. 最近在做一个?的相加减问题是,出现了浮点运算不准的情况,看来都说解释型语言对于浮点运算都会有问题的说法是真的。 首先看一段代码: <?php $a = 0.1; $b = 0.7; var_dump(($a + $b) == 0.8); 打印出来的值居然为 boolean false 这是为啥?PHP手册对于浮点数有以下警告信息: Warning 浮点数精度 显然简单的十进制分数如同 0.1 或 0.7 不能在不丢失一点点精度的情况下转换为内部二进制的格式。这就会造成混乱的结果:例如
  3. 所属分类:其它

    • 发布日期:2020-12-18
    • 文件大小:51200
    • 提供者:weixin_38646706
  1. 《PHP编程最快明白》第二讲 数字、浮点、布尔型、字符串和数组

  2. 数字、浮点、布尔型是值类型,英文:int、float、bool,这样你知道他们怎么用了。 比如语句:$fa=3.14; 字符串和数组是引用类型,也就是说他们作为地址放在栈里,当重新赋值时,栈里的地址改变方向,原来的指向变没或给回收了,英文:string、array。 比如:$str=”字符串”;$arr=array(“a”=>”数”,”b”=>”组”);// array()是一个数组赋值函数,这样的函数PHP有一千多个,一般常用的不到200个,我觉得。 字符串操作: 实例2:字符串合
  3. 所属分类:其它

    • 发布日期:2020-12-18
    • 文件大小:58368
    • 提供者:weixin_38744694
  1. 浅析js中的浮点型运算问题

  2. js中浮点型是如何运算的呢? 例如:var a=0.69; 我想得到6.9 直接这样写 var c=a*10; alert(c);   得到结果是:6.8999999999999995 到网上一搜,有网友说这是一个JS浮点数运算Bug,找了解决方法: 方法一:有js自定义函数 代码如下:[removed] //加法函数,用来得到精确的加法结果 //说明:javascr ipt的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 //调用:accAdd(arg1,
  3. 所属分类:其它

    • 发布日期:2020-12-09
    • 文件大小:36864
    • 提供者:weixin_38608866
  1. DSP中浮点转定点运算–举例及编程中的心得

  2. 5.举例及编程中的心得 5.1举例   “第3章  DSP芯片的定点运算.doc”这篇文章中给了一个很简单有能说明问题的例子,不想动大脑了,直接引用过来如下。   这是一个对语音信号(0.3kHz~3.4kHz)进行低通滤波的C语言程序,低通滤波的截止频率为800Hz,滤波器采用19点的有限冲击响应FIR滤波。语音信号的采样频率为8kHz,每个语音样值按16位整型数存放在insp.dat文件中。 例3.7  语音信号800Hz 19点FIR低通滤波C语言浮点程序 代码如下:#include
  3. 所属分类:其它

    • 发布日期:2020-12-31
    • 文件大小:61440
    • 提供者:weixin_38590784
  1. GpuBufferDataMatch:用于检查两个gpu内核的输出(通常是浮点值)是否匹配,方法是检查两个输出缓冲区中的数据(不包括NaN和Inf数据),然后计算它们的均方根差-源码

  2. 用于检查两个gpu内核的输出(通常是浮点值)是否匹配,方法是检查两个输出缓冲区中的数据(不包括NaN和Inf数据),然后计算并计算它们的均方根差
  3. 所属分类:其它

    • 发布日期:2021-02-26
    • 文件大小:8192
    • 提供者:weixin_42121086
  1. 谐波总和:实现一个执行浮点运算的循环,以及使用计时和基准测试来近似得出结果所需的总时间-源码

  2. 谐波总和 该程序的目的是熟悉实现执行浮点算术的循环,以及对如何读取和计算tic计数和CPU运行时间的了解。 该程序将执行以下操作: 输入许多项来计算谐波和 在计算之前从系统时钟读取tic计数 计算并显示每次迭代的中间值 计算并显示最终金额 计算后从系统时钟读取tic计数 计算并显示tic中的经过时间 计算并显示经过的时间(以秒为单位) 将总和返回到主函数 该程序具有三个不同的源文件: 驱动程序文件,用C语言编写。 X86程序集文件,它是用X86语言编写的函数,可以从驱动程序中调用。 该
  3. 所属分类:其它

    • 发布日期:2021-02-19
    • 文件大小:4096
    • 提供者:weixin_42122881
  1. mass-hex-to-float:当IEEE浮点数时,解释文件中所有八位十六进制值,并将其替换为最短的等效浮点值-源码

  2. 大量十六进制到浮动 在IEEE浮点型时解释文件中的所有十六进制值,并用最短的等效浮点值替换它们
  3. 所属分类:其它

    • 发布日期:2021-02-17
    • 文件大小:2048
    • 提供者:weixin_42127020
  1. 改进的Goldschmidt双精度浮点除法器

  2. 针对嵌入式处理器对面积要求极为苛刻的特点,提出了一种改进的基于Goldschmidt算法的双精度浮点除法器。 改进的除法算法的计算过程分为两个阶段,第一阶段采用线性minimax多项式逼近算法得到一个具有15-bit精度的除数倒数的估计值。相比于minimax 二次多项式逼近,一次多项式逼近会获得一个更小的查找表(LUT)以及在部分积累加过程中获得更少的计算量。 在第二阶段,采用基于硬件复用的方法实现两次Goldschmidt迭代,使得两次Goldschmidt迭代仅仅使用一个乘法器和一个求补单
  3. 所属分类:其它

    • 发布日期:2021-01-29
    • 文件大小:677888
    • 提供者:weixin_38746926
  1. Python两个整数相除得到浮点数值的方法

  2. 在python中进行两个整数相除的时候,在默认情况下都是只能够得到整数的值,而在需要进行对除所得的结果进行精确地求值时,想在运算后即得到浮点值,那么如何进行处理呢? 1、修改被除数的值为带小数点的形式即可得到浮点值,这种方法在被除数事先知道的情况下才可以采用有效,而这种情况意味着被除数的值是写死的、固定的,在绝大多数的情况下是不可行的; 2、在进行除法运算前导入一个实除法的模块,即可在两个整数进行相除的时候得到浮点的结果; 复制代码 代码如下: from __future__ import di
  3. 所属分类:其它

    • 发布日期:2021-01-20
    • 文件大小:41984
    • 提供者:weixin_38722607
« 12 3 4 5 6 7 8 9 10 ... 41 »