ラベル 浮動小数点演算 の投稿を表示しています。 すべての投稿を表示
ラベル 浮動小数点演算 の投稿を表示しています。 すべての投稿を表示
2013/06/18
no image

6/18/2013

 浮動小数点演算について記載中です。  以前ちょっと困って、暫定対処で逃げを打ったのですが、浮動小数点演算のオーバーフローってどうやって検出するのでしょうか?  指数部(12ビット)、仮数部(52ビット)の浮動小数点演算の場合、数値として表現できるのが、仮数部(52bit)で...

続きを読む »
2013/06/14
no image

6/14/2013

少々技術系の記事が滞っていました。 浮動小数点演算について何回かに分けて投稿したいと思います。 今回は、予告という事で本当にさわりだけ。 1/3= ? 答えは何になるでしょう? 1/3≒ 0.33333333333333333333333333333333333...

続きを読む »