Ruby Float(浮動小数点数)にはまる。

ルビーオンレールズ
— 🐶 inumatic (@ken_c_lo) December 25, 2015

ルビーオンレールズいったいなにものなんだ
— るっか@旅に出ます探さないでください (@lucca0show) March 7, 2016

ルビーオンレールズできなくて許されるのは小学生までだよねー。ｸｽｸｽ。と言うことになりそうなので、

作者: Yugui
出版社/メーカー: オライリージャパン
発売日: 2008/06/26
メディア: 大型本
購入: 27人クリック: 644回
この商品を含むブログ (253件) を見る

↑ でRubyを習得しようと勉強中です。
無駄に前振りが長かったですが、今回はFloat型の誤差とかにハマりましたのメモです。

返される桁数問題

特に割り算なのですが、Rubyは整数と整数で割り算をすると整数で返ってくるのに戸惑いました。
例えば「3÷2は？」って言われたら、答えは「1.5」を思い浮かべると思います。
個人的に慣れてしまっていたjavascriptで出力してみると1.5が返っていました。

console.log( 3 / 2 )  // => 1.5

で、同じ感覚でRubyで書くと

a = 3 / 2
p a # => 1

「1」になります。Integer型どうしの計算はInteger型で返ってきます。
「1.5」を得るには片方をFloat型に変換してあげでばOKです。

a = 3.to_f / 2
p a # => 1.5

mathnというライブラリを使用すると、計算式.to_fの形で書けるようです。

require "mathn"
a = 3 / 2
p a # => (3/2)

a = (3 / 2).to_f
p a # => 1.5

負の数の割り算

使いドコロがぱっと思いつかないです。
Integer型どうしで負の数の割り算をすると割り切れない計算の場合、結果がマイナス方向に1大きくなる問題。
先の例と同じ感じで「-3÷2」のパターン。javascriptでは「-1.5」になりました。

console.log( -3 / 2 )  // => -1.5

RubyだとInteger型どうしなので、Integer型になるから「-1」かな。と思っていたのですが、、、

a = -3 / 2
p a # => -2

「-2」です。 -4 ÷ 3 = 1.3333....でも

a = -4 / 3
p a # => -2

「-2」になるので、小数点以下があるとInteger型どうしの場合、マイナス方向に切り上られる仕様のようです。
この仕様を覚えていないと戸惑いそうです。

浮動小数点数の誤差

例えば消費税の計算とか。

p 225 * 1.08 # => 243.00000000000003

Floatクラスのオブジェクトは内部的に2進数にて表現される。
2進数で表現した場合に無限小数となる数の演算は全て、浮動小数点誤差が発生する可能性がある。「2進数で表現した場合に有限小数となる」とは、既約数で表現した場合の分母に2以外の素因数がない事である。

1.5 = 3/2 … 分母を素因数分解すると2¹なので浮動小数点誤差は発生しない。

0.75 = 3/4 … 分母を素因数分解すると2²なので浮動小数点誤差は発生しない。

0.1 = 1/10 … 分母を素因数分解すると2¹ * 5¹ 浮動小数点誤差が発生する可能性がある。

浮動小数点誤差対策 - DoRuby!

javascript

console.log( 225 * 1.08 ) // => 243.00000000000003

Chrome(48.0.2564.116)のコンソールで確認したらjavascriptでもなってましたw
不用意に繰り上げみたいなことしてたら予期しない予期しない数字とかが出てしまうので、浮動小数点数は誤差が発生するものとして気をつけましょうということですね。

まとめ

たんにゆるふわ言語javascriptから覚えてしまったのが良くなかったのか、元々数Aで挫折してる事もあって数学的な事はサッパリダメなので結構戸惑うことが多いです。

後、この勉強している「初めてのRuby」って本なのですが何となくRubyやルビーオンレールズで何かが作れている状態で、もっとキチンとRubyの言語仕様を知りたい！って人向けな気がしてきています。とりあえずRubyで何か作ってみたいから勉強しようかな―って感じだったので、延々言語仕様の細かい部分の説明なのでちょっぴり苦行感が出てきていますw (キッチリ派にはとても良い本だとは思うのですが)

という訳で、