637595 ランダム
 ホーム | 日記 | プロフィール 【フォローする】 【ログイン】

まっさんの日記

まっさんの日記

【毎日開催】
15記事にいいね!で1ポイント
10秒滞在
いいね! --/--
おめでとうございます!
ミッションを達成しました。
※「ポイントを獲得する」ボタンを押すと広告が表示されます。
x
X

PR

カレンダー

バックナンバー

キーワードサーチ

▼キーワード検索

フリーページ

コメント新着

林小遠@ Re:スマホのセンサーについて(12/26) 失礼致しました。Amazonで日本のラズベリ…
2024.08.08
XML
カテゴリ:仕事





コース図にパイロンを置く機能の続き。



Javaに限らず、
小数点以下の数値を扱う場合、
その値は近似値であることに注意が必要です。

小数点以下を2進数で表現する場合、
0.5, 0.25, 0.125, 0.0625, ...
の組わせで表現します。

ちなに整数は、
1, 2, 4, 8, 16, ...
の組わせで表現します。

なので、
小数点以下の数値を演算すると、
期待するような結果にならない場合がある。

パイロンの位置は、
緯度、経度は小数点以下7桁で管理しています。

パイロンの位置を微調整で動かす場合、
小数点以下6桁の数値で演算するわけで、
期待するような結果ならなくて、
嵌ってしまった。

Javaの場合は、BigDecimalを使う。

135.1234567 + 0.000001 を演算したい場合、

BigDecimal answer = new BigDecimal("135.1234567").add(new BigDecimal("0.000001"));

https://www.jisei-firm.com/archive-pro/

ポチッとして頂けると、
次のコンテンツを作成する励みになります♪
ブログランキング・にほんブログ村へ






お気に入りの記事を「いいね!」で応援しよう

最終更新日  2024.08.08 14:50:56
コメント(0) | コメントを書く
[仕事] カテゴリの最新記事



© Rakuten Group, Inc.
X