新規投稿 管理用

THE 電卓 藤堂俊介がこっそり書くブログのようなもの

計算機にまつわるブログ。

Last Modified: 2023/03/31(Fri) 09:43:10 RSS Feed

タグ「２進数」を含む投稿［1件］

5-4.9-0.1=?

No. 110 , Posted at 2022年2月5日(土) 13時28分24秒 , by 藤堂俊介 NO IMAGE

　非常に簡単な計算です。答えは0になります。それがどうしたという計算です。電卓アプリの一部、MS-Excelこの計算をさせるとどうでしょうか。


　0にならないんです。-0と表示されるアプリもあります。お手元の電卓で試してみてください答え一発0になります。0以外が表示されたアプリか表計算は、故障ではありません。誤差の処理の問題です。

　コンピュータが詳しい人は理由はすぐにわかると思います。
　市販の電卓は、２進化１０進数を用いていますからこのような誤差が生じません。

#２進数
#Excel

〔 263文字 〕 編集

初期表示に戻る

■全文検索：


複合検索窓に切り替える

■複合検索：

  • 投稿者名：
  • 投稿年月：
  • ＃タグ：
  • カテゴリ：
  • 出力順序：

■番組一覧

なんぞねっと

長崎交通研究会

仲良し三人組

nanzo.page(なんぞねっと予備サイト)

中園直樹公式サイト

ザ・電卓

平成ネット史外伝

つぶやき

続・オヒ！の殿堂

公式ツイッター



開設日：平成１２年　３月　１日
新　装：平成２８年　５月２５日
改　装：令和　３年１２月１８日
更新日：令和　４年　５月　６日

編集

■カレンダー：

2022年2月
日月火水木金土
12345
6789101112
13141516171819
20212223242526
2728
« 前の月 / 次の月 »

■最近の投稿：

■カテゴリ：

■日付一覧：

■日付検索：

■ハッシュタグ：

▼現在の表示条件での投稿総数：

1件

▼特殊な表示モード：