カテゴリ:仕事
コース図にパイロンを置く機能の続き。 Javaに限らず、 小数点以下の数値を扱う場合、 その値は近似値であることに注意が必要です。 小数点以下を2進数で表現する場合、 0.5, 0.25, 0.125, 0.0625, ... の組わせで表現します。 ちなに整数は、 1, 2, 4, 8, 16, ... の組わせで表現します。 なので、 小数点以下の数値を演算すると、 期待するような結果にならない場合がある。 パイロンの位置は、 緯度、経度は小数点以下7桁で管理しています。 パイロンの位置を微調整で動かす場合、 小数点以下6桁の数値で演算するわけで、 期待するような結果ならなくて、 嵌ってしまった。 Javaの場合は、BigDecimalを使う。 135.1234567 + 0.000001 を演算したい場合、 BigDecimal answer = new BigDecimal("135.1234567").add(new BigDecimal("0.000001")); https://www.jisei-firm.com/archive-pro/ ポチッとして頂けると、 次のコンテンツを作成する励みになります♪ お気に入りの記事を「いいね!」で応援しよう
最終更新日
2024.08.08 14:50:56
コメント(0) | コメントを書く
[仕事] カテゴリの最新記事
|