您好,欢迎光临本网站![请登录][注册会员]  

搜索资源列表

  1. Python整数与Numpy数据溢出问题解决

  2. 某位 A 同学发了我一张截图,问为何结果中出现了负数? 看了图,我第一感觉就是数据溢出了。数据超出能表示的最大值,就会出现奇奇怪怪的结果。 然后,他继续发了张图,内容是 print(100000*208378),就是直接打印上图的 E[0]*G[0],结果是 20837800000,这是个正确的结果。 所以新的问题是:如果说上图的数据溢出了,为何直接相乘的数却没有溢出? 由于我一直忽视数据的表示规则(整型的上限是多少?),而且对 Numpy 了解不多,还错看了图中结果,误以为每一个数据都是错误
  3. 所属分类:其它

    • 发布日期:2020-12-31
    • 文件大小:337920
    • 提供者:weixin_38573171