Javaの課題丸投げコミュの有効数字について

ログインして参加する

有効数字について

mixiユーザー 2010年05月11日 09:51

プログラムの計算結果を有効数字10桁として表すときはどのようにすればよいのでしょうか？？
自分が調べた本には書いていなかったので、お聞きしたいです。

コメント(6)

最初
全て
最新の40件

1

[5] mixiユーザー 05月11日 23:41

恐らく例えば有効数字4桁なら
1.232E-5
2.981E12
3.114
…
といった形に揃えたいという事ですよね？
昔Javaでグラフソフトを作った際に同じような事をやったんですが、
正攻法ではNumberFormatで書式を指定する方法があります。

/* 桁数や指数部などの書式設定 */
NumberFormat nf = new DecimalFormat("0.00#E0");
double d = 3.141592653589793;
d = Double.parseDouble( d );

NumberFormatの詳細は検索でもしてみてください。
しかし実際使ってみれば分かるんですが、
扱いが若干分かり辛かったり、
どうも場合によってトリッキーな振る舞いをする
（望む書式にならない値がある）事があるようなので、
完全に綺麗に揃えるには向かないかもしれません。

[6] mixiユーザー 05月11日 23:47

すいません書き間違いました

NumberFormat nf = new DecimalFormat("0.00#E0");
double d = 3.141592653589793;
d = Double.parseDouble( nf.format( d ) );

ログインすると、みんなのコメントがもっと見れるよ

最初
全て
最新の40件

1

mixiユーザー: ログインしてコメントしよう！

Javaの課題丸投げ更新情報

Javaの課題丸投げのメンバーはこんなコミュニティにも参加しています

星印の数は、共通して参加しているメンバーが多いほど増えます。

Javaの課題丸投げ

人気コミュニティランキング

困ったときには

関連ワード

mixiで趣味の話をしよう: 新規登録（無料）; ログイン

このページの上部へ