[ 通常表示 ]  [ 簡易表示 ]  [ シンプル表示 ]

「分かりそう」で「分からない」でも「分かった」気になれるIT用語辞典イメージぴよ画像「分かりそう」で「分からない」でも「分かった」気になれるIT用語辞典

丸め誤差

pointこの用語のポイント

point数字の誤差だよ

point小数点以下の桁を省略したときに生じるよ

スポンサーリンク

簡単に書くよ

丸め誤差とは

小数点以下ずらずらと続く数字を適当な桁で切り捨てたのが原因で生じる誤差のこと
です。

image piyo

詳しく書くよ

一番イメージしやすいのが円周率ですかね。
円周率は「3.1415926535..」と続いていきますが「3.14」くらいで計算するのが一般的です。
そうすると本来の計算結果とは切り捨てた「0.0015926535..」分、ズレますよね?

このズレが「丸め誤差」です。

コンピュータさんの世界の丸め誤差は現実世界よりちょびっとだけ厄介なのでご注意ください。

なんてったってコンピュータさんの世界は2進数の世界ですからね。
10進数の小数を2進数の小数に変換するのはめんどっちーのです(-A-)
整数を扱っている分には気にする必要がありませんが、小数を扱うとすこーーーーしだけ誤差が出ます。
たまに意図しない形で誤差が発生する場合があるのでご注意ください。

image piyo2

一言でまとめるよ

まぁ「丸め誤差」って単語が出てきたら「小数点以下の桁を省略したときに生じる誤差なんだな~」と、お考えください。

一番上に戻るよ
スポンサーリンク