注册会员 | 设为首页 | 加入收藏夹
您好，欢迎光临本网站！[请登录] ！[注册会员]！  

搜索资源列表

  1. 浮点计算误差分析——我自己写的

  2. 自己写的计算机浮点数计算的误差分析，用java描述，详细地讲述了误差来源和精确地计算方法。

  3. 所属分类：Java

    • 发布日期：2010-05-13
    • 文件大小：54272
    • 提供者：cpygogogo

  1. 自己写的浮点数计算误差分析

  2. 自己写的一篇分析文章，系统地讲述了计算机浮点计算的误差来源并提供一些避免方法。

  3. 所属分类：专业指导

    • 发布日期：2010-05-13
    • 文件大小：19456
    • 提供者：cpygogogo

  1. 浮点数计算与误差分析

  2. 深入介绍浮点数的存储形式，讲解误差形成的缘由！新的层面，新的认知！！

  3. 所属分类：专业指导

    • 发布日期：2010-07-23
    • 文件大小：78848
    • 提供者：hzt19901012

  1. java精确计算浮点数工具类

  2. Java对浮点数的计算是不精确的,比如0.05+0.01结果不是0.06,而是0.060000000000000005,更有甚者,一个数除以0.0,Java是不会抛异常,而是得出无穷大的结果.本工具类解决了上述问题.该类提供了加减乘除四则运算的精确计算方式.在你处理数据的工程中,该类可以给你意想不到的惊喜

  3. 所属分类：Java

    • 发布日期：2011-06-17
    • 文件大小：830
    • 提供者：cryp08

  1. 表达式计算(浮点数计算)

  2. 支持浮点数计算 修改之后能过整型添加 a=(int)a;

  3. 所属分类：C/C++

    • 发布日期：2011-08-09
    • 文件大小：12288
    • 提供者：liangxingzhang

  1. JS浮点数计算

  2. JS计算浮点数会出现错误的计算结果。 前几天遇到问题，网上找到一个人写的计算方法。但是除法的计算方法有些数据仍然会出现错误数据 于是发现问题并更改，希望对大家有帮助哈

  3. 所属分类：Javascript

    • 发布日期：2014-06-09
    • 文件大小：3072
    • 提供者：dorawulin

  1. 浮点数指令

  2. FCU指令集，可以进行浮点数计算，方便汇编程序开发人员查阅

  3. 所属分类：其它

    • 发布日期：2014-10-02
    • 文件大小：43008
    • 提供者：zqpcsm

  1. 浮点数计算工具

  2. 可将务类报文（如Modbus，104， 103，101）中浮点数格式数据转经为浮点数值。 可将10或16进制值转化为浮点数内存格式或各类报文（如Modbus，104， 103，101）。

  3. 所属分类：网络监控

    • 发布日期：2016-12-09
    • 文件大小：24576
    • 提供者：catalpas

  1. 浮点数计算工具

  2. 输入的时候有两个选项：请收入需要转换的浮点数，这个时候如果是想将十进制的数据转换为浮点数的话 直接输入十进制 如果将报文数据转换成十进制的话就需要在一开始的时候先随便输入一个数据跳过“请收入需要转换的浮点数”段 进入“请输入需要转换

  3. 所属分类：C

    • 发布日期：2017-06-01
    • 文件大小：5120
    • 提供者：qsz207ok

  1. 顺序栈实现表达式计算（可计算浮点数）

  2. 顺序栈实现算术表达式的计算 输入格式：一行一个算术表达式，可以输入若干行 输出格式：一行一个输出结果 样例： 输入样例： 2*（3 + 4） 6+ 2 * 8 /4 输出样例 14 10 【基本要求】运算对象均为整数 【选作内容】运算对象扩充为可以是带小数位的浮点数

  3. 所属分类：C/C++

    • 发布日期：2017-12-26
    • 文件大小：468992
    • 提供者：qq_36403227

  1. C++实现定点算法将浮点数转为字符串

  2. 将浮点数转为字符串的具体算法在网上少有涉及，一般都采用浮点法，即通过浮点运算确定需要的每一位上的数字。本文介绍的方法是定点法，即对IEEE 745[1]的浮点数编码规范进行硬解码。这种方法效率不高，但是精度确很好，而且思路明晰，可为浮点数计算原理的研究工作提供参考。本文仅用C++语言针对float类型的变量做了阐释，其它类型的浮点数如double，只是在各部分存储的长度上有差异，因此不做额外讨论。

  3. 所属分类：其它

    • 发布日期：2009-02-18
    • 文件大小：384000
    • 提供者：sourcex

  1. 浮点数计算软件、工控计算器

  2. 输入4个字节的浮点数，自动装换成浮点数。还有16进制转换

  3. 所属分类：C#

    • 发布日期：2012-05-04
    • 文件大小：24576
    • 提供者：xiaofeihu112

  1. JAVA浮点数计算精度损失底层原理与解决方案

  2. 本文主要介绍了JAVA浮点数计算精度损失底层原理与解决方案。具有很好的参考价值，下面跟着小编一起来看下吧

  3. 所属分类：其它

    • 发布日期：2020-08-31
    • 文件大小：59392
    • 提供者：weixin_38746951

  1. 浅谈c# 浮点数计算

  2. 本文通过具体的示例给大家演示了下C#中浮点数运算所遇到的问题及解决方法，有需要的小伙伴可以参考下

  3. 所属分类：其它

    • 发布日期：2020-08-29
    • 文件大小：31744
    • 提供者：weixin_38688956

  1. 浮点数计算软件.zip

  2. 一个关于浮点数的计算软件，也就是一个浮点数对应的4字节数值是多少，该软件会帮你显示出来，特别在一个通讯传输，或则在调试算法的时候这个软件还是很有用的

  3. 所属分类：互联网

    • 发布日期：2020-09-08
    • 文件大小：137216
    • 提供者：jiyu75

  1. PHP中浮点数计算比较及取整不准确的解决方法

  2. 主要介绍了PHP 浮点数计算比较及取整不准确的解决方法,需要的朋友可以参考下

  3. 所属分类：其它

    • 发布日期：2020-10-24
    • 文件大小：45056
    • 提供者：weixin_38693586

  1. PHP之浮点数计算比较以及取整数不准确的解决办法

  2. 主要介绍了PHP之浮点数计算比较以及取整数不准确的解决办法,代码超简单,需要的朋友可以参考下

  3. 所属分类：其它

    • 发布日期：2020-10-23
    • 文件大小：30720
    • 提供者：weixin_38702339

  1. PHP之浮点数计算比较以及取整数不准确的解决办法

  2. php有意思的现象，应该是很多编程语言都会有这样的现象。这个是因为计算机的本身对浮点数识别的问题…..下面通过代码给大家展示下： $f = 0.58; var_dump(intval($f * 100 *100)); //结果5799 var_dump((float)($f * 100 *100)); //结果5800 echo (int)((0.1+0.7)*10); //结果7 echo (float)((0.1+0.7)*10); //结果8 <?php $a = 0.1; $b

  3. 所属分类：其它

    • 发布日期：2020-12-17
    • 文件大小：39936
    • 提供者：weixin_38668225

  1. Java-关于基本数据类型中浮点数计算产生的精度问题

  2. 简单关于BigDecimal类 在基本数据类型中，float和double都表示浮点型数据，而计算机计算采取的是对二进制的计算，所以会存在一定程度上的精度丢失问题。 BigDecimal类是一个大小数操作类，可以用来对超过16位有效位的数据进行精确的运算，在这里我们使用BigDecimal类来解决浮点数计算产生的精度丢失问题。 精度问题 在这里我们讨论一个问题：3 – 2.7 == 0.3 的值是什么？ 首先对表达式进行分析，该表达式有两个运算符，分别为减运算符 -和关系运算符 = = ，由于减

  3. 所属分类：其它

    • 发布日期：2020-12-22
    • 文件大小：64512
    • 提供者：weixin_38693720

  1. PHP中浮点数计算比较及取整不准确的解决方法

  2. 浮点数计算结果比较 一则浮点数计算例子如下： 复制代码 代码如下: $a = 0.2+0.7; $b = 0.9; var_dump($a == $b); 打印出的结果是：bool(false)。也就是说在这里 0.2+0.7 的计算结果与 0.9 并不相等，这显然是有违我们的常识的。 对此问题，PHP官方手册曾又说明：显然简单的十进制分数如 0.2 不能在不丢失一点点精度的情况下转换为内部二进制的格式。这和一个事实有关，那就是不可能精确的用有限位数表达某些十进制分数。例如，十进制的 1/3

  3. 所属分类：其它

    • 发布日期：2021-01-21
    • 文件大小：50176
    • 提供者：weixin_38722348
« 12 3 4 5 6 7 8 9 10 ... 32 »