授業

コンピュータで行う計算には、丸め誤差・桁あふれ・桁落ち・情報落ちなどの精度低下を招く誤差が発生します。本記事では、それぞれの誤差と具体例を初心者向けに解説します。

2進数とは何かをわかりやすく解説。10進数への変換、補数表記、浮動小数点数、シフト演算などコンピュータで使われる数字の仕組みを紹介します。