mixiユーザー(id:12645834)

2020年10月04日22:45

41 view

NASAで使っている円周率の桁数について

円周率といえば2020年で50兆桁あたりまでが計算されている。これに対してNASAに、軌道計算などで使われる小数点は何桁ですかという質問があったとという。この質問に対するNASAの回答は『16桁(末尾をまるめた3.141592653589793)』だと回答した。
昔からのコンピュータに関わっていたものとしてはパソコン黎明期では数字は単精度と倍精度があって、単精度は2の8乗、倍精度は2の16乗で表現される数字だった。だからNASAは倍精度状態で計算しているのかな?
ちなみに自分が学生時代に使っていた関数電卓は有効桁数が6桁指数99桁だった。

円周率16桁の場合の誤差についてNASAは次のように解説している。
地球の円周を考えた場合、赤道の位置を基準とすれば直径は約1万2742km。少数第15位に丸めた円周率を使用すると、地球の円周は約4万kmとなります。この時に生じる誤差はナノメートル単位で、分子1つ分の大きさ程度だという。
2 0

コメント

mixiユーザー

ログインしてコメントを確認・投稿する