THE 電卓 藤堂俊介がこっそり書くブログのようなもの

計算機にまつわるブログ。

Last Modified: 2022/01/22(Sat) 10:59:01 RSS Feed

No.63

99,999,999+1=

No. 63 , , by 藤堂俊介 NO IMAGE


 答えは1億。8桁電卓で演算させるとこのような表示になる。

20211221151348-admin.jpg


 E1.0000000。百均から電卓メーカーで手に入る8桁電卓はほとんどこの表示になる。古い電卓や旧モデルのキヤノン、シチズン電卓の一部は、E 1.という表示になる。

 これは、8桁の表示範囲から溢れたことを意味する。(桁溢れエラー)この場合は、上から8桁を表示している。電卓説明書には《概算計算》として記述されている。8桁電卓の場合、答えが9~16桁になる数値は、頭から8桁の概算表示に切り替わる。それでは小数点は何を意味するのかと言えば、億の単位を示している。例えば、E12345678.と表示されいれば、1234兆5678億を意味する。

 C,CE,CIキーでエラー表示を解除して表示された数値を計算に使える。ただし、この数値は、1億ではなく、単に1である。これに1を加えたら2なり、1を減じれば0である。乗除算次のように使える。

(例)

 99,999,999×99,999,9999の次に×を押すと、エラー表示の後、C,CE,CIを押して、さらに99,999 999=と操作すると、E99,999,997が表示される。何を意味するのかといえば、小数点が兆を意味する。関数電卓で、99,999,999の3乗を操作してみよう。9.9999997の10の23乗、24桁の数値になる。概算値と乗算計算できるのは、8桁電卓では8桁まである。この繰り返しを使えば、何百、何千桁まで求めることが可能である。ただし、累積していく度に誤差が広がるため、有効桁が減る。

 除算は9~16桁までの範囲で、8桁の範囲までで割ることができる。この場合の小数点は億の単位と読み取る。

 65536×65536÷と操作し、エラー解除し、65536

=とすると、0.0006553と表示される。この時の小数点は、億の単位であり、概算で65,530と読み取れる。

 最後に、8桁電卓の操作で、例えばこのような操作をすると、E 0.が表示される。

(操作)

 10,000,000÷0.0000001%

 これは、何を意味するかといえば、答えが17桁になり、概算桁許容範囲を超えたからである。つまり、桁溢れの桁溢れは、計算不可能である。この表示は、0除算でもでる。この0は、0ではなく、計算不可能を意味する。


#電卓
#オーバーフロー
#概算
#0除算

〔 1026文字 〕 編集

■複合検索:

  • 投稿者名:
  • 投稿年月:
  • #タグ:
  • カテゴリ:
  • 出力順序:

■番組一覧

なんぞねっとのご紹介

長崎交通研究会

中園直樹公式サイト

仲良し三人組

仲良し三人組(長編)

ザ・電卓

原稿の砂場

なんでもない日記


開設日:平成12年 3月 1日
新 装:平成28年 5月25日
改 装:令和 3年12月18日
更新日:令和 3年12月26日

編集

■カレンダー:

2021年12月
1234
567891011
12131415161718
19202122232425
262728293031

■最近の投稿:

■カテゴリ:

■日付一覧:

■日付検索:

▼現在の表示条件での投稿総数:

1件