首页 / 知识
关于舍入错误:如何存储浮点数? 什么时候重要?
2023-04-15 00:04:00

How is floating point stored? When does it matter?在解决这个问题时,似乎有些数字根本不能用浮点表示,而是近似的。 浮点数如何存储? 有不同尺寸的通用标准吗? 如果我使用浮点数,我需要注意哪些陷阱? 它们是否跨语言兼容(即,为了通过TCP / IP将浮点数从python程序发送到C程序,我需要处理哪些转换)? 如前所述,有关IEEE 754的Wikipedia文章很好地展示了如何在大多数系统上存储浮点数。 现在,这是一些常见的陷阱:
每位计算机科学家应该了解的有关浮点算法的文章中,都对浮点数问题进行了详尽的解释。 至于问题的第二部分,除非性能和效率对您的项目很重要,否则我建议您将浮点数据作为字符串通过TCP / IP传输。这样可以避免字节对齐等问题,并简化调试。 该标准是IEEE 754。
当然,当IEE754不够好时,还有其他方法可以存储数字。像Java的
正确。
正如其他海报所提到的,IEEE754及其后续版本几乎全部
几乎没有,它们是跨语言兼容的。 极为罕见的怪癖:
基本上,在浮点数中您需要担心的是,精度位数有限。在测试相等性时,或者您的程序实际上需要的精度比该数据类型所提供的精度高时,这可能会导致问题。 在C ++中,一个好的经验法则是认为浮点数给您7位数的精度,而双精度数给您15的精度。另外,如果您想知道如何测试相等性,可以查看此问题线程。 是的,存在二进制浮点算术的IEEE标准(IEEE 754) 当以二进制形式存储时,数字分为三部分,符号,指数和分数。 标题为" IEEE标准754浮点数"的本文可能会有所帮助。老实说,我不太确定我是否理解您的问题,因此不确定是否会有所帮助,但希望会有所帮助。 如果您真的担心浮点舍入错误,则大多数语言都提供了没有浮点错误的数据类型。 SQL Server具有Decimal和Money数据类型。 .Net具有十进制数据类型。它们不像Java中的BigDecimal那样精确无穷,但精确到定义的小数点位数。因此,您不必担心输入的美元值会变成$ 4.58,而另存为4.579999999999997的浮点值 我记得是一个32位浮点数,使用24位实际数字存储,其余8位用作10的幂,确定小数点在哪里。 我对这个问题有点不满意... |
最新内容
相关内容
linux命令错误代码?
linux命令错误代码?,系统,密码,电脑,网络,手机,网址,软件,代码,设备,老板,Linux管理常见错误1、检查权限:使用文件浏览器和终端,检查文件的访问linux排序数字命令?
linux排序数字命令?,标准,数字,单位,情况,系统,信息,命令,文件,顺序,参数,linux下用shell编写,键盘输入三个数,按大小排序输出1、这个问题可以linux命令不能打数字?
linux命令不能打数字?,工作,密码,数字,地址,电脑,系统,命令,设备,下来,预期,你好,求助大师帮忙,我刚学ARM,怎么无法输入数字或字母呢1、ZI初始linux命令忽略错误?
linux命令忽略错误?,系统,地址,工作,信息,设备,命令,设计,灵活,观察,标准,linux命令问题,在使用ls命令时,能不能不让输出错误信息--pid=进程号linux生成数字命令?
linux生成数字命令?,密码,数字,设备,环境,名称,时间,单位,地址,信息,系统,求一个linux的代码要求:随机生成一个密码8到16个字符,要有数字有大17个新手常见Python运行时错误
17个新手常见Python运行时错误,代码,错误,培训,变量,函数,局部,操作,定义,列表,实际,当初学Python时,想要弄懂Python的错误信息的含义可能有点Python通用序列操作
Python通用序列操作,通用,步长,数据,位置,培训,数字,序列,索引,元素,操作,基本概念数据结构:是通过某种方式(例如对元素进行编号)组织在一起的Python导入错误分析
Python导入错误分析,代码,情况,分析,名字,标准,位置,培训,模块,路径,错误,当遇到无法导入某个python模块时,可能会是没有安装某个模块,也有可能用Python开发一个简单的猜数字游戏
用Python开发一个简单的猜数字游戏,数字,代码,培训,官网,设备,程序,玩家,注释,内容,游戏,本文介绍如何使用Python制作一个简单的猜数字游戏。如何查找python中的错误
如何查找python中的错误,代码,地方,信息,底部,位置,分析,观察,测试,工作,网络,1、先不要碰你的代码阅读代码,你甚至可能会想到该阅读哪些部分python的错误和异常
python的错误和异常,异常,代码,地方,标准,官网,状态,第三,第一,时间,培训,python至少有2类不同的错误:语法错误(SyntaxErrors)和异常(Exceptio找不出python的语法错误该如何解决
找不出python的语法错误该如何解决?,代码,分析,项目,培训,错误,语法错误,结果,文件,语法,环节,python是一种解释型语言,在开发中,没有了编译这