国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

python執行精確的小數計算方法

2020-02-16 00:45:45
字體:
來源:轉載
供稿:網友

在進行浮點數計算時它們無法精確表達出所有的十進制小數位。

a = 4.1b = 5.329print(a+b) 9.428999999999998

這些誤差實際上是底層CPU的浮點運算單元和IEEE754浮點數算數標準的一種“特性”。python的浮點數類型保存的數據采用的是原始表示形式,因此使用float實例時就不能避免這樣的誤差。

我們可以使用decimal模塊避免這種操作(如果不介意犧牲下性能):

from decimal import Decimala = Decimal('4.1')b = Decimal('5.329')print(a+b) 9.429

注意Decimal的參數必須是字符串,不能是浮點型,否則誤差依舊存在。

decimal模塊的主要功能是允許控制計算過程中的各個方面,包括數字的尾數和四舍五入。

from decimal import Decimalfrom decimal import localcontexta = Decimal(4.1)b = Decimal(5.329)print(a/b)print('================')with localcontext() as ctx:  ctx.prec = 3  print(a/b) 0.7693751172827922400071261708================0.769

getcontext也可以實現和localcontext一樣的功能

from decimal import Decimal, getcontexta = Decimal(4.1)b = Decimal(5.329)getcontext().prec = 3print(a/b) 0.769

誤差我們不能完全消除,我們只能盡力優化算法,使得誤差盡可能小。在大數和小數相加時要格外注意。

nums = [3.21e+18, 1, -3.21e+18]print(sum(nums))print('=========================')import mathres = math.fsum(nums)print(res) 0.0=========================1.0

以上這篇python執行精確的小數計算方法就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持武林站長站。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 临湘市| 凤凰县| 织金县| 三明市| 呼伦贝尔市| 保德县| 梓潼县| 平潭县| 会昌县| 昭苏县| 大城县| 大荔县| 新郑市| 怀宁县| 白银市| 吴堡县| 克拉玛依市| 古丈县| 汝城县| 古田县| 宜宾县| 庄浪县| 咸丰县| 拉孜县| 上虞市| 洪洞县| 宜城市| 田东县| 措美县| 平塘县| 九寨沟县| 白水县| 民勤县| 景德镇市| 信宜市| 阜新| 云安县| 红原县| 孟村| 潮安县| 渭源县|