[過去ログ] 関数電卓・グラフ電卓総合 [無断転載禁止]©2ch.net (1002レス)
上下前次1-新
抽出解除 レス栞
このスレッドは過去ログ倉庫に格納されています。
次スレ検索 歴削→次スレ 栞削→次スレ 過去ログメニュー
921(3): 2018/05/28(月)22:03 ID:1CcVjKFe(4/4) AAS
>>920
HP Prime でも 3.1415926535898 - π = 0 になる。
ただし、計算後に 3.14159265359 に表示が変更されてしまう。
これは表示上の問題かもしれないので、内部精度が12桁しかない証拠にはならない。
922: 2018/05/29(火)05:10 ID:878JZJQn(1/2) AAS
>>921
その前後の数値を入れて見ろよ
全部0になるだろ
いい加減あきらめろ
924: 2018/05/29(火)05:30 ID:Bvwm2zHb(1/2) AAS
>>921
あんたの言葉を借りれば
証拠にならない計算は無意味
925: 2018/05/29(火)05:57 ID:Bvwm2zHb(2/2) AAS
>>921
これは蛇足だか
表示上の問題ではなく
途中の計算と結果が一致する
実務電卓向きのHPらしい仕様だと思う
上下前次1-新書関写板覧索設栞歴
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル
ぬこの手 ぬこTOP 0.027s