THE 電卓 藤堂俊介がこっそり書くブログのようなもの

計算機にまつわるブログ。

Last Modified: 2022/01/22(Sat) 10:59:01 RSS Feed

タグ「誤差」を含む投稿[1件]

5-4.9-0.1=?

No. 43 , , by 藤堂俊介 NO IMAGE

 非常に簡単な計算です。答えは0になります。それがどうしたという計算です。電卓アプリの一部、MS-Excelこの計算をさせるとどうでしょうか。

20211219102032-admin.jpg
 0にならないんです。-0と表示されるアプリもあります。お手元の電卓で試してみてください答え一発0になります。0以外が表示されたアプリか表計算は、故障ではありません。誤差の処理の問題です。

 コンピュータが詳しい人は理由はすぐにわかると思います。
 市販の電卓は、2進化10進数を用いていますからこのような誤差が生じません。


#電卓
#Excel
#誤差

〔 267文字 〕 編集

■全文検索:

複合検索窓に切り替える

■複合検索:

  • 投稿者名:
  • 投稿年月:
  • #タグ:
  • カテゴリ:
  • 出力順序:

■番組一覧

なんぞねっとのご紹介

長崎交通研究会

中園直樹公式サイト

仲良し三人組

仲良し三人組(長編)

ザ・電卓

原稿の砂場

なんでもない日記


開設日:平成12年 3月 1日
新 装:平成28年 5月25日
改 装:令和 3年12月18日
更新日:令和 3年12月26日

編集

■カレンダー:

2021年12月
1234
567891011
12131415161718
19202122232425
262728293031

■最近の投稿:

■カテゴリ:

■日付一覧:

■日付検索:

▼現在の表示条件での投稿総数:

1件