🗐 THE 電卓 藤堂俊介がこっそり書くブログのようなもの

計算機にまつわるブログ。

新規投稿 管理用

タグ「誤差」を含む投稿(時系列順)［1件］

NO IMAGE

267文字 編集

藤堂俊介 (admin) 2021年12月19日 日曜日 10:21:45 Post No.43
5-4.9-0.1=?

　非常に簡単な計算です。答えは0になります。それがどうしたという計算です。電卓アプリの一部、MS-Excelこの計算をさせるとどうでしょうか。

20211219102032-admin.jpg
　0にならないんです。-0と表示されるアプリもあります。お手元の電卓で試してみてください答え一発0になります。0以外が表示されたアプリか表計算は、故障ではありません。誤差の処理の問題です。

　コンピュータが詳しい人は理由はすぐにわかると思います。
　市販の電卓は、２進化１０進数を用いていますからこのような誤差が生じません。


#電卓
#Excel
#誤差

初期表示に戻る

■番組一覧

なんぞねっと

長崎交通研究会

仲良し三人組

nanzo.page(藤堂俊介のブログ)

中園直樹公式サイト

続・オヒ！の殿堂（特別編）

藤堂俊介のツイッターアカウント



開設日：平成１２年　３月　１日
新　装：平成２８年　５月２５日
改　装：令和　３年１２月１８日
更新日：令和　６年　３月１０日

編集

■全文検索：


複合検索窓に切り替える

■複合検索：

  • 投稿者名：
  • 投稿年月：
  • ＃タグ：
  • カテゴリ：
  • 出力順序：

■ハッシュタグ：

■日付一覧：

■日付検索：

■カレンダー：

2021年12月
日月火水木金土
1234
567891011
12131415161718
19202122232425
262728293031
« 前の月 / 次の月 »

■カテゴリ：

■最近の投稿：

現在の表示条件での投稿総数： 1件
最終更新日時：
2024年2月29日(木) 09時22分15秒
RSSフィード / 新規投稿 / 管理用