THE 電卓 藤堂俊介がこっそり書くブログのようなもの

計算機にまつわるブログ。

Last Modified: 2022/01/18(Tue) 09:51:58 RSS Feed

No.58

【CASIO】一般電卓内部演算仕様

No. 58 , , by 藤堂俊介 NO IMAGE

1未満どうしの乗算
 12桁の電卓にて次の計算をしてみましょう。
0.888888×0.999999=



答えの表示は、0.88888711111になります。



 それでは一端ACを押し、
0.888888×0.999999×10=と操作してみましょう。



 CASIO一般電卓ではこのようになります。
 8.88887111112



 CASIO以外の一般電卓で同じ計算をしてみましょう。このようになっています。
 8.8888711111



 これは電卓の仕様で、説明書にも触れられていないと思われます。



 CASIO一般電卓の場合、このように計算すると、CASIO以外と同じ結果になります。
0.888888×0.999999=×10=



この例題0.888888×0.999999=0.888887111112
 になります。CASIO一般電卓は、内部演算で、0.888887111112の値を保持しています。


 この内部数値は、=もしくはメモリを押すと電卓表示からはみ出た数値が切捨てられます。

#電卓
#CASIO
#仕様

〔 504文字 〕 編集

■複合検索:

  • 投稿者名:
  • 投稿年月:
  • #タグ:
  • カテゴリ:
  • 出力順序:

■番組一覧

なんぞねっとのご紹介

長崎交通研究会

中園直樹公式サイト

仲良し三人組

仲良し三人組(長編)

ザ・電卓

原稿の砂場

なんでもない日記


開設日:平成12年 3月 1日
新 装:平成28年 5月25日
改 装:令和 3年12月18日
更新日:令和 3年12月26日

編集

■カレンダー:

2021年12月
1234
567891011
12131415161718
19202122232425
262728293031

■最近の投稿:

■カテゴリ:

■日付一覧:

■日付検索:

▼現在の表示条件での投稿総数:

1件