このページは、2019年3月に保存されたアーカイブです。最新の内容ではない場合がありますのでご注意ください

計算桁とかオーバーフロウのこと


オーバーフロウ

この機械は置数表示10桁、倍数表示11桁、結果数表示20桁となっています。
ということは10桁×11桁の計算ができそうなものですが、
その場合は結果数は21桁ないと計算結果がオーバーフロウしてしまいます。
なんでだろうと思っていたのですが、
倍数表示の11桁目は、前述の「乗算を速くやる計算方法」のために
用意されているようですね。
99億9999万9999を掛けたい時に、100億を掛けてからマイナス1するための桁のようです。

また、加算の場合、一度に12桁以上にわたって繰り上がりが発生する計算を行った場合、
同時繰上げが11桁までしかできないため、演算に失敗します。(多分)
9999億9999万9999にプラス1するなど。

どういう計算を行ったときに、これが発生するのか。
11桁以上同志の足し算で発生するのか?
数学脳の劣化した僕には良く分からないです(泣)

というわけで、基本的には10桁×10桁までの計算に
支障が出ないよう設計されてるようです。

オーバーフロウした場合、繰上げができなかった場合、ともに
『チン』のベル音が鳴りますので、演算に失敗したことが
計算者にわかるようになっています。


Return

このページは、2019年3月に保存されたアーカイブです。最新の内容ではない場合がありますのでご注意ください