2009-06-27から1日間の記事一覧

浮動少数点の正規化

浮動小数点の正規化とは> 少数点のすぐ下から有効数字が来るようにすること 0.0034(-8) ↓正規化後 0.34(-10)「0.0034に10を2回かけると0.34になる(2は-8に加算する)」

イクセス表現

指数が負数の場合、一定の数を足し算して負数でなくすこと。 −128〜127をあらわすことができる ↓ 0〜255であらわすと負数にならない -23+128=1050.34x10(-23)<2の補数> 0.34x10(105)<イクセス表現>

小数の表現

種類 固定少数点・・・・整数部分のビット数と少数部分のビット数を決めてしまう 浮動少数点・・・・限られたビットで広い範囲の実数を表現する

浮動小数点について

浮動小数点は以下の形式であらわす。 a = f x r(e) a・・・・実数 f・・・・仮数 r・・・・基数 e・・・・指数 符号-指数-仮数であらわす 浮動小数点は以下で求める 仮数x基数指数