Home » Excel(エクセル)の関数・数式の使い方 » 最近のExcelでも「1.333+1.225-1.333-1.225」をカッコでくくれば演算誤差を確認できる

最近のExcelでも「1.333+1.225-1.333-1.225」をカッコでくくれば演算誤差を確認できる

動作検証バージョン：Windows 11 Home + 64bit Excel バージョン 2401（ビルド17130.20000クイック実行）ベータチャネル

Microsoft公式サイト内のページ「浮動小数点演算が Excel で不正確な結果をもたらす可能性がある」に、以下のような記述があることに気が付きました。

値が 0 に達した場合の例

1. Excel 95 以前では、新しいブックに次のように入力します。

　A1: =1.333+1.225-1.333-1.225

2. セル A1 を右クリックし、[セルの書式設定] をクリックします。 [数値] タブで、[分類] の下の [指数] をクリックします。 [小数点以下の桁数] を 15 に設定します。

0 を表示する代わりに、Excel 95 は -2.22044604925031E-16 を表示します。

ただし、Excel 97 では、この問題を修正しようとする最適化が導入されました。 加算または減算演算の結果、値が 0 または 0 に非常に近い場合、Excel 97 以降では、オペランドを 2 進数に変換した結果、または 2 進数から変換した結果として発生したエラーが補正されます。 上記の例を Excel 97 以降で実行すると、指数表記で 0 または 0.000000000000000E+00 が正しく表示されます。

元の英文は「Floating-point arithmetic may give inaccurate results in Excel」で確認できます。

［スポンサードリンク］

算数的には「0」だけれど、コンピューター的には演算誤差のため「0」にならない浮動小数点数の計算

=1.333+1.225-1.333-1.225

が紹介されています。

カッコでくくった「=(1.333+1.225-1.333-1.225)」を入力すると

最近のExcelでは、たしかに

=1.333+1.225-1.333-1.225

を入力すると「0」になってしまいますが、

カッコでくくった

=(1.333+1.225-1.333-1.225)

ならば、演算誤差による結果「-2.22045E-16」が表示されます。

［セルの書式設定］ダイアログボックス－［表示形式］タブで「指数」を選択して「小数点以下の桁数」を「15」に設定すれば、

「-2.220446049250310E-16」がセルに表示されます。

最終更新日時：2024-01-11 12:06

［スポンサードリンク］

Home » Excel(エクセル)の関数・数式の使い方 » 最近のExcelでも「1.333+1.225-1.333-1.225」をカッコでくくれば演算誤差を確認できる

『インストラクターのネタ帳』では、2003年10月から平日のほぼ毎日、Microsoft Officeの使い方などを紹介し続けています。
日経BP社から出版された、Excel VBAユーザー向けのPython超入門書です↓↓ 上記の『Excel VBAユーザーのためのPythonプログラミング』の元になったキンドル本です↓↓ 小数とPythonのdecimalモジュールの基本をキンドル本としてまとめました↓↓ Pythonの文字列フォーマットの基本をキンドル本としてまとめました↓↓ 『インストラクターのネタ帳』を運営する伊藤潔人が、初めて書かせていただいた書籍です↓↓ PowerPoint VBA本は、実はオブジェクトブラウザーの使い方を徹底的に解説した本です↓↓ 図形を操作するExcel VBAの基本を解説したキンドル本を出しました↓↓ グラフを操作するExcel VBAの基本を解説したキンドル本です↓↓ Excel VBAユーザーを対象とした、Word VBAの入門書をキンドル本として出しました↓↓ 数式を使った条件付き書式設定が苦手な方に向けたKindle本を書きました↓↓ Pythonの外部ライブラリOpenPyXL（オープンパイエクセル）の入門書を、Excel VBAユーザーに向けに書きました↓↓
3年前(2021年4月)の
人気記事
1位:Windows 10で手書き入力するIMEパッドを表示するには
2位:IF関数で○○以上××以下という条件を指定する
3位:右から（後から・末尾から）n文字を削除したい
4位:IF関数で空白なら空白にする
5位:COUNTIF関数で「○○以上」「○○以下」の指定
6位:IF関数で空白でない場合・空白でなければの書き方
7位:左から（前から・先頭から）n文字削除する方法



「Excel(エクセル)の関数・数式の使い方」の記事一覧

検索


Copyright © インストラクターのネタ帳 All Rights Reserved.

.