コンピュータ科学基礎理論 【応用情報技術者試験】コンピュータ科学基礎理論を学ぼう! ~第4章~計算誤差
浮動小数点数の計算誤差は、有限のビット数で実数を近似表現する際に生じ、主な種類として、表現しきれない端数を処理する丸め誤差、絶対値の差が大きい和・差で小数が無視される情報落ち、近似値同士の引き算で有効桁が減る桁落ち、計算を途中で止める打切り...
コンピュータ科学基礎理論
コンピュータ科学基礎理論
応用情報技術者試験
コンピュータ科学基礎理論
コンピュータ科学基礎理論
ハードウェア
用語
ハードウェア
用語
ハードウェア