全年9月12日の投稿(時系列順)[2件]
2022年 この範囲を新しい順で読む この範囲をファイルに出力する
2023年 この範囲を新しい順で読む この範囲をファイルに出力する
電卓のオーバフロー
30年以上前、トラックで雑貨を積んで期間限定で場所を借りて激安販売する業者がありました。
電卓も販売していてノーブランドのメイドインチャイナや数年前電卓販売を取りやめたGENTOSもあった。激安電卓といっても当時はどこのブランドかわからないメイドインチャネルの電卓が980円から1500円。GENTOSの電卓は2980円でした。
そのGENTOS電卓の小さな紙に印刷した説明書にオーバフローの条件に興味深いことが書かれてありました。
概算表示を超える計算結果になる場合もオーバーフロー(E 0.)になります。
12桁の電卓でしたからこのような計算例でした。
100,000,000,000÷0.000 000 000 01%
操作するとE 0。
なぜかと言えば、お手持ちに関数電卓があれば操作してみましょう。
1E11÷1E-11×100=1E24
25桁になる数値。12桁の電卓は答えが12桁を超えるとEを表示して概算値が出ます。その概算値も24桁までで、24桁を超える数値はE 0.(計算不能)になります。オーバフローのオーバフローはできないになります。
電卓の説明書に書いてないものもあります。通常の計算では先程上げた例の計算はまれです。
30年以上前、トラックで雑貨を積んで期間限定で場所を借りて激安販売する業者がありました。
電卓も販売していてノーブランドのメイドインチャイナや数年前電卓販売を取りやめたGENTOSもあった。激安電卓といっても当時はどこのブランドかわからないメイドインチャネルの電卓が980円から1500円。GENTOSの電卓は2980円でした。
そのGENTOS電卓の小さな紙に印刷した説明書にオーバフローの条件に興味深いことが書かれてありました。
概算表示を超える計算結果になる場合もオーバーフロー(E 0.)になります。
12桁の電卓でしたからこのような計算例でした。
100,000,000,000÷0.000 000 000 01%
操作するとE 0。
なぜかと言えば、お手持ちに関数電卓があれば操作してみましょう。
1E11÷1E-11×100=1E24
25桁になる数値。12桁の電卓は答えが12桁を超えるとEを表示して概算値が出ます。その概算値も24桁までで、24桁を超える数値はE 0.(計算不能)になります。オーバフローのオーバフローはできないになります。
電卓の説明書に書いてないものもあります。通常の計算では先程上げた例の計算はまれです。