浮動小数点演算について記載中です。 以前ちょっと困って、暫定対処で逃げを打ったのですが、浮動小数点演算のオーバーフローってどうやって検出するのでしょうか? 指数部(12ビット)、仮数部(52ビット)の浮動小数点演算の場合、数値として表現できるのが、仮数部(52bit)で...
浮動小数点演算について記載中です。 以前ちょっと困って、暫定対処で逃げを打ったのですが、浮動小数点演算のオーバーフローってどうやって検出するのでしょうか? 指数部(12ビット)、仮数部(52ビット)の浮動小数点演算の場合、数値として表現できるのが、仮数部(52bit)で...
少々技術系の記事が滞っていました。 浮動小数点演算について何回かに分けて投稿したいと思います。 今回は、予告という事で本当にさわりだけ。 1/3= ? 答えは何になるでしょう? 1/3≒ 0.33333333333333333333333333333333333...