2006-02-15 使えるのか?これ? 仕事 現在、あるパッケージソフトを触っているのですが、 パッケージ付属の関数を使ったところおかしな現象が……。 関数名:multiply 機能 :2つの対象を乗算した結果を返す。 で、1234567 * 100 をした結果が…… A. 123456704 ……、どこから4は発生したのでしょうか? 小数点絡みの加減算が大量に発生したら誤差で同様の現象は起こりえるかもしれませんが、 この手の乗算でこういう結果が返ってくるのは初めてみました。 *1 さて、独自で関数作りますか。 *2 *1:ちなみに、1234568 * 100 は正常な結果が返ってきた。 *2:このパッケージ、計算処理するにも関数使用の形をとる必要があるのでこんな手間踏んでます。