11/15 3年生ゼミ

前回の第１章，第２章ではCPUや2進数について学びました。そして今回の第3章，第4章では「コンピュータが小数点数の計算を間違える理由」と「四角いメモリーを丸く使う」ということについて，皆さんで意見を出し合いながら学びました。

コンピュータと言えば，何でも正確な答えを返してくれそうですが，求めている答えとは違う答えが返ってくる場合があります。それが，小数点数です。この理由は「浮動小数点数」と言われる，2進数では表現できない小数を近似値として扱う数値表現にあります。そして，このような計算間違いを回避するには「間違いを無視する方法」と「整数に置き換える方法」の2つの方法があることを学びました。

また，数値計算などを行う際に必要になってくる知識として，データを格納するためのメモリー構造の仕組みを知っておく必要があります。この本では，メモリーの論理的なイメージを「ビルディング」と表現していたので，面白いなと思いました。メモリーを上手く使うためには，配列の先頭と末尾をつなげて円形にした配列「リング・バッファ」という形態を用いることによってデータの格納と取り出しが容易に行うことができると分かりました。