[過去ログ] スレ立てるまでもない質問はここで 116匹目 (1001レス)
上下前次1-新
このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
663(1): 2012/01/31(火)12:56 AAS
>>658
方法1:値のばらつきが小さい場合(1e-20から1e-22のように100倍程度とか)
計算途中は10の20乗倍くらいで累積。
最後に10の20乗倍くらいで割る。
方法2:値のばらつきが大きい場合(1e-3から1e-100のなど)
整数配列 int a[1000]を、1000桁の数字に見立てて、自分で乗除加減算を実装する。
方法3:Unix計のbcなど、任意桁数計算ライブラリを使う。
「任意精度演算 Wikipedia」で検索。
上下前次1-新書関写板覧索設栞歴
あと 338 レスあります
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.006s