THE 電卓 藤堂俊介がこっそり書くブログのようなもの

計算機にまつわるブログ。

Last Modified: 2022/12/05(Mon) 10:54:12 RSS Feed

タグ「オーバーフロー」を含む投稿3件]

99,999,999+1=

No. 63 , , by 藤堂俊介 NO IMAGE


 答えは1億。8桁電卓で演算させるとこのような表示になる。

20211221151348-admin.jpg


 E1.0000000。百均から電卓メーカーで手に入る8桁電卓はほとんどこの表示になる。古い電卓や旧モデルのキヤノン、シチズン電卓の一部は、E 1.という表示になる。

 これは、8桁の表示範囲から溢れたことを意味する。(桁溢れエラー)この場合は、上から8桁を表示している。電卓説明書には《概算計算》として記述されている。8桁電卓の場合、答えが9~16桁になる数値は、頭から8桁の概算表示に切り替わる。それでは小数点は何を意味するのかと言えば、億の単位を示している。例えば、E12345678.と表示されいれば、1234兆5678億を意味する。

 C,CE,CIキーでエラー表示を解除して表示された数値を計算に使える。ただし、この数値は、1億ではなく、単に1である。これに1を加えたら2なり、1を減じれば0である。乗除算次のように使える。

(例)

 99,999,999×99,999,9999の次に×を押すと、エラー表示の後、C,CE,CIを押して、さらに99,999 999=と操作すると、E99,999,997が表示される。何を意味するのかといえば、小数点が兆を意味する。関数電卓で、99,999,999の3乗を操作してみよう。9.9999997の10の23乗、24桁の数値になる。概算値と乗算計算できるのは、8桁電卓では8桁まである。この繰り返しを使えば、何百、何千桁まで求めることが可能である。ただし、累積していく度に誤差が広がるため、有効桁が減る。

 除算は9~16桁までの範囲で、8桁の範囲までで割ることができる。この場合の小数点は億の単位と読み取る。

 65536×65536÷と操作し、エラー解除し、65536

=とすると、0.0006553と表示される。この時の小数点は、億の単位であり、概算で65,530と読み取れる。

 最後に、8桁電卓の操作で、例えばこのような操作をすると、E 0.が表示される。

(操作)

 10,000,000÷0.0000001%

 これは、何を意味するかといえば、答えが17桁になり、概算桁許容範囲を超えたからである。つまり、桁溢れの桁溢れは、計算不可能である。この表示は、0除算でもでる。この0は、0ではなく、計算不可能を意味する。


#電卓
#オーバーフロー
#概算
#0除算

〔 1026文字 〕 編集

オーバーフローと概算表示

No. 45 , , by 藤堂俊介 NO IMAGE


 電卓説明書で《概算表示》という説明がある場合は、電卓の表示桁を超える数値になったことを示す。《オーバーフロー》または《桁あふれ》とも言う。



 10桁の電卓において、10桁を超える数値になった場合は、小数点表示とEまたはERRORを表示し、キー操作の受付を止める。



 関数電卓では、指数表示となる。表示方法は、1以上、10未満の数値と10の何乗の何乗部分である。



 一般電卓は、指数表示は考慮に入れない設計。現在のすべての電卓は上位桁から表示するようになっている。例えば、10桁の電卓で答えが12桁となれば、3桁〜12桁を表示する。



 答えが123,456,789,012ならば、E12.34567890と表示される。



 小数点表示にしているのは、指数表示とは若干異なり、8桁ならば、ここが8桁、10桁ならば、ここが10桁、12桁ならば、ここが12桁を示している。また小数点表示しておかないと、12桁の数値がそうでないかが紛らわしい。



 概算表示となった場合は、小数点の部分を次のように読み替える。



 8桁は億を示し、10桁は、100億を示し、12桁は兆を示している。



 概算表示には、1つ例外がある。10桁の電卓は、概算表示できるのは20桁までである。計算によっては、20桁を超える計算がある。



 10桁の電卓でこのような操作をしてみよう。  1,000,000,000÷0.000000001%と操作した場合である。答えが21桁になり概算表示可能桁を超える。この場合、お手上げを意味する、Eと0を表示する。  


オーバーフロー解除

 電卓の表示桁を超える数値になると桁あふれ(説明書によってはオーバーフローエラー)と言う状態になる。



 概算表示の表示中、置数訂正キーを押すことにより、エラー状態を解除することができる。解除した数値は再び計算に用いることができる。



 エラー解除された数値、これはどういった扱いになるのであろうか。



 例えば12桁の電卓の場合、答えが12桁を超えるような数値でオーバーフローエラーになった場合、概算表示は13桁から24桁となる。



 オーバーフローエラーを解除した場合、表示されている数字は12桁以内の数値である。



 試しにお餅の電卓で表示桁いっぱいに9を入力し、その次1を加える計算をしてみよう。ここでは見やすくするため8桁の電卓で示す。



SHARPなどの電卓



99,999,999+1=



CASIOの電卓



1++99,999,999=



 操作すると、E1.0000000か、E 1.と表示される。現在の一般電卓はほとんど前者である。後者の表示は主にCITIZENの電卓で起きる。



 この時の答えは概算で1億である。次にエラー解除をしてみよう、Eの表示が消えたら、=を押す。すると、どのような表示になるだろうか。



 結果は2になる。さらに=を押すと3と=を押すたびに1が加わっていく。結果的に1+1の定数計算と同じ計算になる。



 一般電卓は関数電卓と異なり指数表示で持っていないため、オーバーフローの数値は、エラー解消と同時に、電卓の表示桁内の数値となる。



 概算表示でも大きな数値を扱いたい場合は関数電卓の登場となる。三角関数や対数などの関数を使う以外にも概算の大きな数値を扱う計算に便利である。

概算計算

 オーバーフローした数値は、エラー解除すると電卓表示表示桁以内の数値になる。



 小数点を読み替えることにより、乗除算においては、大きな桁の計算も可能である。



 乗算においては、電卓の桁数を超える同士の計算は概算にして計算をする。その時小数点は億または兆あるいは京として読み替える。10の何乗としても良い。



 除算においても、乗算と同じ手順をとる。注意点は、計算結果が0になる場合があること。



 例えば、8桁の電卓でこのような計算をした場合である。



1÷10,000,001



 この場合は電卓の小数が表示桁を超えるから、0とみなされる。



 これらを注意すると、電卓の表示桁を超える概算計算ができる。


#オーバーフロー
#仕様
#電卓
#CASIO
#SHARP

〔 1813文字 〕 編集

電卓をお手上げを宣言させてみた

No. 30 , , by 藤堂俊介 NO IMAGE

20211218155904-admin.jpg

 電卓のお手上げ表示《E  0.》の条件は2つ。

 0除算(0で割る)

 それと、8桁電卓の場合、計算結果が8桁を超えると、オーバーフローのEを表示させ、上位桁から表示させ計算停止する。《概算表示》と説明書に書かれている。
 8桁の場合、概算表示は16桁(上位桁から8桁分)まで表示できる。計算の中には17桁になる場合が存在する。それが、写真にあげた、1000万÷0.00000001%の計算操作である。概算16桁を超えると、お手上げを意味する、E 0.が表示される。これは説明書に書かれている例があまり見られない。

#電卓
#オーバーフロー

〔 293文字 〕 編集

■全文検索:

複合検索窓に切り替える

■複合検索:

  • 投稿者名:
  • 投稿年月:
  • #タグ:
  • カテゴリ:
  • 出力順序:

■番組一覧

なんぞねっと

長崎交通研究会

仲良し三人組

nanzo.page(なんぞねっと予備サイト)

中園直樹公式サイト

ザ・電卓

平成ネット史外伝

つぶやき

続・オヒ!の殿堂

公式ツイッター



開設日:平成12年 3月 1日
新 装:平成28年 5月25日
改 装:令和 3年12月18日
更新日:令和 4年 5月 6日

編集

■カレンダー:

2021年12月
1234
567891011
12131415161718
19202122232425
262728293031

■最近の投稿:

■カテゴリ:

■日付検索:

■ハッシュタグ:

▼現在の表示条件での投稿総数:

3件