THE 電卓 藤堂俊介がこっそり書くブログのようなもの

計算機にまつわるブログ。

Last Modified: 2022/07/04(Mon) 09:36:32 RSS Feed

タグ「誤差」を含む投稿1件]

5-4.9-0.1=?

No. 43 , , by 藤堂俊介 NO IMAGE

 非常に簡単な計算です。答えは0になります。それがどうしたという計算です。電卓アプリの一部、MS-Excelこの計算をさせるとどうでしょうか。

20211219102032-admin.jpg
 0にならないんです。-0と表示されるアプリもあります。お手元の電卓で試してみてください答え一発0になります。0以外が表示されたアプリか表計算は、故障ではありません。誤差の処理の問題です。

 コンピュータが詳しい人は理由はすぐにわかると思います。
 市販の電卓は、2進化10進数を用いていますからこのような誤差が生じません。


#電卓
#Excel
#誤差

〔 267文字 〕 編集

■全文検索:

複合検索窓に切り替える

■複合検索:

  • 投稿者名:
  • 投稿年月:
  • #タグ:
  • カテゴリ:
  • 出力順序:

■番組一覧

なんぞねっとのご紹介

長崎交通研究会

仲良し三人組

nanzo.page(なんぞねっと予備サイト)

中園直樹公式サイト

ザ・電卓

平成ネット史外伝

つぶやき

別冊オヒ!の殿堂

公式ツイッター

開設日:平成12年 3月 1日
新 装:平成28年 5月25日
改 装:令和 3年12月18日
更新日:令和 4年 5月 6日

編集

■カレンダー:

2021年12月
1234
567891011
12131415161718
19202122232425
262728293031

■最近の投稿:

■カテゴリ:

■日付検索:

■ハッシュタグ:

▼現在の表示条件での投稿総数:

1件