符号拡張 まず符号拡張ってなんぞや？ ってところから 例えば16bitの値があったとします。 1000100010001000 でいいや。 これを32bit、つまり1byteの数字として扱いたいとしましょう。では、これは上に0をくっつけて、 00000000000000001000100010001000 で…

IEEE754 みなさんご存知、浮動小数点の標準規格ですね。 0.1+0.2が0.300...004になることで有名。研究室のイベントで本を読んでいたのですが、改めて整数や浮動小数点の表現を学びました。こういうのの規格を定めるのって考えること多くて大変そう。 指数と…