このページは、2019年3月に保存されたアーカイブです。最新の内容ではない場合がありますのでご注意ください |
計算桁とかオーバーフロウのこと |
オーバーフロウ この機械は置数表示10桁、倍数表示11桁、結果数表示20桁となっています。 ということは10桁×11桁の計算ができそうなものですが、 その場合は結果数は21桁ないと計算結果がオーバーフロウしてしまいます。 なんでだろうと思っていたのですが、 倍数表示の11桁目は、前述の「乗算を速くやる計算方法」のために 用意されているようですね。 99億9999万9999を掛けたい時に、100億を掛けてからマイナス1するための桁のようです。 また、加算の場合、一度に12桁以上にわたって繰り上がりが発生する計算を行った場合、 同時繰上げが11桁までしかできないため、演算に失敗します。(多分) 9999億9999万9999にプラス1するなど。 どういう計算を行ったときに、これが発生するのか。 11桁以上同志の足し算で発生するのか? 数学脳の劣化した僕には良く分からないです(泣) というわけで、基本的には10桁×10桁までの計算に 支障が出ないよう設計されてるようです。 オーバーフロウした場合、繰上げができなかった場合、ともに 『チン』のベル音が鳴りますので、演算に失敗したことが 計算者にわかるようになっています。 |
▼ Return |
このページは、2019年3月に保存されたアーカイブです。最新の内容ではない場合がありますのでご注意ください |