[ExcelVBA] 浮動小数点問題

>Blog Top Page >[ExcelVBA] Top Page >[ExcelVBA] ExcelVBA ALL >[ExcelVBA] AdventCalendar

アドベントカレンダー 8日目

たまには、こんなネタも。
45.2 - 38.8 はいくつでしょうか？
では、計算してみましょう。

view plainprint?

1. Option Explicit  
2.   
3. Sub SampleCode()  
4.     Dim a As Double  
5.     Dim b As Double  
6.       
7.     a = 45.2  
8.     b = 38.8  
9.       
10.     Debug.Print a - b  
11. End Sub  

Option Explicit

Sub SampleCode()
    Dim a As Double
    Dim b As Double
    
    a = 45.2
    b = 38.8
    
    Debug.Print a - b
End Sub

結果は
6.40000000000001
です。

こんなに簡単んそうな計算結果でも誤差が出てしまいます。
これは、IEEE 754という数値計算の標準規格を利用しているものなら
全て発生する問題だそうで、詳細を知りたい場合は以下サイトなんかを
眺めるとよいと思います。

第４回　演算誤差の正体

>Blog Top Page >[ExcelVBA] Top Page >[ExcelVBA] ExcelVBA ALL >[ExcelVBA] AdventCalendar