2014年11月24日月曜日

C言語で、浮動小数点数の出力を高精度に

C言語で作った行列をファイルに書き出して、Octaveで処理(というかOctaveを参照解にしたい)ということをやっていたんだけど、どういうわけかOctaveの答えがヘンになる。
追いかけて行くと、どうもファイルに書きだした時に情報が失われてしまって答えが合わなくなったようす。
C言語の出力フォーマットを %30.26e にして乗り切る。
一日潰れた。

#他にもOctaveで理解できてないところがあったのもあるけど

0 件のコメント:

コメントを投稿