中小企業診断士
Q 165 :
各種業務において様々なソフトウェアを利用しているが、それぞれのソフトウェアでは目的に応じた演算処理が行われている。コンピュータの演算処理では計算誤差が発生する場合のあることが知られているので、計算誤差に対して適切な対応が必要である。 以下の計算誤差に関する記述として最も適切なものはどれか。
C言語においては、整数型の変数を使用する場合、その扱える範囲内の加減算でも桁落ち誤差が発生する。
どのようなソフトウェアを利用しても、金額に関する計算では浮動小数点演算の仕組みを利用しないので計算誤差は生じない。
リレーショナルデータベースの処理ではデータの格納および格納されたデータの検索だけを行うので計算誤差は生じない。
解説
ア - × 整数型の変数を使用する場合は、桁落ち誤差は発生しない。
イ - × 金額に関する計算では浮動小数点演算の仕組みを利用する場合があるため、桁落ち誤差が発生する。
ウ - ○ 正解 記述内容の通りである。
エ - × 計算処理も行うため、計算誤差が生じる。