THE 電卓 藤堂俊介がこっそり書くブログのようなもの

計算機にまつわるブログ。

Last Modified: 2023/05/31(Wed) 10:02:46 RSS Feed

タグ「誤差」を含む投稿1件]

5-4.9-0.1=?

No. 43 , , by 藤堂俊介 NO IMAGE

 非常に簡単な計算です。答えは0になります。それがどうしたという計算です。電卓アプリの一部、MS-Excelこの計算をさせるとどうでしょうか。

20211219102032-admin.jpg
 0にならないんです。-0と表示されるアプリもあります。お手元の電卓で試してみてください答え一発0になります。0以外が表示されたアプリか表計算は、故障ではありません。誤差の処理の問題です。

 コンピュータが詳しい人は理由はすぐにわかると思います。
 市販の電卓は、2進化10進数を用いていますからこのような誤差が生じません。


#電卓
#Excel
#誤差

〔 267文字 〕 編集

■全文検索:

複合検索窓に切り替える

■複合検索:

  • 投稿者名:
  • 投稿年月:
  • #タグ:
  • カテゴリ:
  • 出力順序:

■カレンダー:

2021年12月
1234
567891011
12131415161718
19202122232425
262728293031

■最近の投稿:

■カテゴリ:

■日付検索:

■ハッシュタグ:

▼現在の表示条件での投稿総数:

1件