櫛田慶幸の日記@Wien
日記的に記録をつけつづける 野良科学者を助けてくださると嬉しいです(設定変更しました): http://amzn.asia/39JrOnz
2014年11月24日月曜日
C言語で、浮動小数点数の出力を高精度に
C言語で作った行列をファイルに書き出して、Octaveで処理(というかOctaveを参照解にしたい)ということをやっていたんだけど、どういうわけかOctaveの答えがヘンになる。
追いかけて行くと、どうもファイルに書きだした時に情報が失われてしまって答えが合わなくなったようす。
C言語の出力フォーマットを %30.26e にして乗り切る。
一日潰れた。
#他にもOctaveで理解できてないところがあったのもあるけど
0 件のコメント:
コメントを投稿
次の投稿
前の投稿
ホーム
登録:
コメントの投稿 (Atom)
0 件のコメント:
コメントを投稿