您好,欢迎光临本网站![请登录][注册会员]  

搜索资源列表

  1. 嵌套到c里的汇编浮点数计算器

  2. 一个简单的嵌套到c里的汇编浮点数计算器 学习汇编的同学可以参考下 精度不是很高 没有怎么验证过所以可能有些小bug
  3. 所属分类:硬件开发

    • 发布日期:2010-01-18
    • 文件大小:4096
    • 提供者:Drumbility
  1. 浮点数的内存格式,分单精度和双精度

  2. 浮点数的内存格式,参看博文:http://blog.csdn.net/misterliwei/archive/2010/04/06/5455666.aspx
  3. 所属分类:专业指导

    • 发布日期:2010-04-13
    • 文件大小:151552
    • 提供者:misterliwei
  1. 浮点数精度问题解答——浮点数

  2. 目前支持二进制浮点数的硬件和软件文档中,几乎都声称其浮点数实现符合IEEE 754标准。那么,什么是IEEE 754标准? 最权威的解释是IEEE754标准本身ANSI/IEEE Std 754-1985《IEEE Standard for Binary Floating-Point Arithmetic》,网上有PDF格式的文件,Google一下,下载即可。标准文本是英文的,总共才23页,有耐心的话可以仔细阅读。这里摘录前言中的一句: This standard defines a fami
  3. 所属分类:专业指导

    • 发布日期:2010-06-11
    • 文件大小:80896
    • 提供者:CQ_bigbird
  1. 浮点数(单精度浮点数,双精度浮点数)

  2. 单精度浮点数,双精度浮点数,浮点数是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意某个实数。
  3. 所属分类:专业指导

    • 发布日期:2010-10-23
    • 文件大小:84992
    • 提供者:justtimenow
  1. 关于浮点数的存储格式的问题

  2. 浮点数的存储格式 基于IEEE 754的浮点数存储格式 IEEE(Institute of Electrical and Electronics Engineers,电子电气工程师协会)在I985年制定的IEEE 754(IEEE Standard for Binary Floating-Point Arithmetic, ANSI/IEEE Std 754-1985 )二进制浮点运算规范,是浮点运算部件事实上的工业标准。 在计算机系统的发展过程中,曾经提出过多种方法表示实数,但是到目前为止使
  3. 所属分类:Microsoft

    • 发布日期:2011-05-16
    • 文件大小:166912
    • 提供者:wanglf1986
  1. IEEE二进制浮点数算术标准_IEEE754

  2. IEEE二进制浮点数算术标准,了解浮点数精度损失的好材料。
  3. 所属分类:其它

    • 发布日期:2011-10-26
    • 文件大小:342016
    • 提供者:peterormike
  1. 基于浮点数机内编码的快速排序方法.pdf

  2. 期刊网花钱买的,共享一下。本文提出一种可对任意分布的浮点数进行排序的快速排序方法,它基于浮点数的机内编码 具有速度快 实现简单 实用的特点。其时间复杂度为O(n),在对不同分布的随机浮点数进行的排序实验中,其速度是快速排序的数倍,同时本算法思想还可用于双精度数、整数、字符串等类型数据的排序
  3. 所属分类:C++

    • 发布日期:2012-01-03
    • 文件大小:134144
    • 提供者:machcat
  1. C语言浮点数运算

  2. 有些C语言书上说float型的有效位数是6~7位,为什么不是6位或者7位?而是一个变化的6~7位? 浮点数在内存中是如何存放的? float浮点数要比同为4字节的int定点数表示的范围大的多,那么是否可以使用浮点数替代定点数? 为什么float型浮点数9.87654321 > 9.87654322不成立?为何10.2 - 9的结果不是1.2,而是1.1999998?为何987654321 + 987.654322的结果不是987655308.654322? 如何才能精确比较浮点数真实的大
  3. 所属分类:C

    • 发布日期:2012-05-22
    • 文件大小:224256
    • 提供者:ifreecoding
  1. 任意浮点数的高精度计算源代码

  2. 这个程序能计算任何精度的浮点数除法运算 加法,减法及乘法只能算整数类型的,但是可以是任何位数的运算。 程序全部采用的是手工的算法方法,与机器本身是没有关系的。运算结果比windows自带的计算器还高哦!
  3. 所属分类:C#

    • 发布日期:2013-01-30
    • 文件大小:26624
    • 提供者:qianqing13579
  1. 浮点数转换

  2. 浮点数转换16进制及其他类型实用软件,以及16进制转换为(单精度和双精度)浮点数
  3. 所属分类:C

    • 发布日期:2013-02-16
    • 文件大小:112640
    • 提供者:kangqiao1981
  1. MFC 浮点数计算器 经多次修正 计算精度高

  2. MFC 浮点数计算器 经多次修正 计算精度高 界面清爽 简单易用
  3. 所属分类:C++

    • 发布日期:2013-04-02
    • 文件大小:39845888
    • 提供者:jerrydawn
  1. 单精度双精度浮点数转换

  2. 单精度双精度浮点数转换,浮点数与16进制转换工具
  3. 所属分类:其它

    • 发布日期:2013-05-02
    • 文件大小:1048576
    • 提供者:guohaifeng227
  1. Java中浮点数精度问题的解决方法

  2. 给大家介绍了Java中浮点数精度问题的解决方法,本文给大家介绍的非常详细,有问题描述有原因分析,非常不错,具有参考借鉴价值,感兴趣的朋友一起看看吧
  3. 所属分类:其它

    • 发布日期:2020-09-01
    • 文件大小:54272
    • 提供者:weixin_38734008
  1. 关于Python中浮点数精度处理的技巧总结

  2. 双精度浮点数(double)是计算机使用的一种数据类型,使用 64 位(8字节) 来存储一个浮点数。下面这篇文章主要给大家总结介绍了关于Python中浮点数精度处理的技巧,需要的朋友可以参考借鉴,下面来一起看看吧。
  3. 所属分类:其它

    • 发布日期:2020-09-21
    • 文件大小:75776
    • 提供者:weixin_38726441
  1. 跟我学习javascript的浮点数精度

  2. 跟我学习javascr ipt的浮点数精度,带大家真正的理解Javascr ipt的浮点数,提醒大家当心浮点运算中的精度陷阱,需要的朋友可以参考下
  3. 所属分类:其它

    • 发布日期:2020-10-23
    • 文件大小:70656
    • 提供者:weixin_38685882
  1. PHP浮点数精度问题汇总

  2. 主要介绍了PHP浮点数精度问题汇总,本文着重探讨PHP浮点数精度损失问题,用三个段落不同的方式讲解了这个问题的形成原因以及解决方法,需要的朋友可以参考下
  3. 所属分类:其它

    • 发布日期:2020-10-24
    • 文件大小:57344
    • 提供者:weixin_38714637
  1. JS浮点数运算结果不精确的Bug解决

  2. 前言 最近在做项目的时候,涉及到产品价格的计算,经常会出现JS浮点数精度问题,这个问题,对于财务管理系统的开发者来说,是个非常严重的问题(涉及到钱相关的问题都是严重的问题),这里把相关的原因和问题的解决方案整理一下,也希望给各位提供一些参考。 一. 常见例子   // 加法 0.1 + 0.2 = 0.30000000000000004 0.1 + 0.7 = 0.7999999999999999 0.2 + 0.4 = 0.6000000000000001 // 减法 0.3
  3. 所属分类:其它

    • 发布日期:2020-12-10
    • 文件大小:89088
    • 提供者:weixin_38693173
  1. PHP浮点数精度问题汇总

  2. 一、PHP浮点数精度损失问题 先看下面这段代码: 复制代码 代码如下: $f = 0.57; echo intval($f * 100);  //56 结果可能有点出乎你的意外,PHP遵循IEEE 754双精度: 浮点数, 以64位的双精度, 采用1位符号位(E), 11指数位(Q), 52位尾数(M)表示(一共64位). 符号位:最高位表示数据的正负,0表示正数,1表示负数。 指数位:表示数据以2为底的幂,指数采用偏移码表示 尾数:表示数据小数点后的有效数字. 再来看看小数用二进制怎么表示:
  3. 所属分类:其它

    • 发布日期:2020-12-18
    • 文件大小:56320
    • 提供者:weixin_38726255
  1. 关于Python中浮点数精度处理的技巧总结

  2. 前言 最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况: 出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。 比如说: 0.1是十进制,转化为二进制后它是个无限循环的数: 0.00011001100110011001100110011001100110011001100110011001100 而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点
  3. 所属分类:其它

    • 发布日期:2020-12-25
    • 文件大小:78848
    • 提供者:weixin_38713009
  1. python 浮点数四舍五入需要注意的地方

  2. 本文主要分享基于python的数据分析三方库pandas,numpy的一次爬坑经历,发现并分析了python语言对于浮点数精度处理不准确的问题,并在最后给出合理的解决方案。如果你也在用python处理数据,建议看一下,毕竟0.1的误差都可能造成比较大的影响。 问题出现 早上到了公司,领导发了几个文件过来,说这两天测试环境跑出来的数据,与实际情况有所出入,看看哪出的问题,尽快解决··· 开始排查 先对比数据,发现并不是所有的数据都出现问题,只有10%左右的数据有这个问题,说明应该不是逻辑上的问题
  3. 所属分类:其它

    • 发布日期:2021-01-21
    • 文件大小:121856
    • 提供者:weixin_38675465
« 12 3 4 5 6 7 8 9 10 ... 21 »