[過去ﾛｸﾞ] 関数電卓・グラフ電卓総合 [無断転載禁止]©2ch.net (1002ﾚｽ)
上下前次1-新
抽出解除 必死ﾁｪｯｶｰ(本家) (べ) ﾚｽ栞 あぼーん
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
908: 2018/05/28(月)00:39 ID:SdBFSA76(1/4) AAS
>>905の意味が分からなかったけど>>906を読んでやっと理解した。
ID:a2CKAIhn は、まだ HP電卓＝Saturn と思っているのか。
やれやれ。
910(1): 2018/05/28(月)00:44 ID:SdBFSA76(2/4) AAS
>>884 = >>898 = >>905 のような気がする。
無知を自信満々に語る。
>>909
そういう問題じゃなくて、>>906の引用部分をちゃんと読んでよ
912: 2018/05/28(月)01:15 ID:SdBFSA76(3/4) AAS
Saturn CPU のことを知らない人がいるかもしれないので、一応説明しておく
Saturn は4bitマイコンにも関わらず、64bitレジスタ9本を持っている
64bitレジスタというが正体は4bitレジスタが16個繋がっているのに近い（64bitレジスタのデータ転送を行うとき、ハード内部で4bitに分割して16回転送する）
この64bitレジスタはBCD12桁の浮動小数点の加減算がハードウェアでできる
加減算だけのFPUと考えてもいい
レジスタのビット配置はハードウェア固定なので、12桁より多い数値は扱えない
そのため、内部精度を上げることはできない
つまり、表示精度＝内部精度である
ソフトウェアでBCD計算すれば、桁数を増やすことは不可能ではないが、Saturnの性能からすると実用にならないだろう
>>905は HP電卓 ＝ Saturn と勘違いしているらしく、「HPの電卓は最大表示以上の精度は(計算結果には)ないし」というトンチンカンなことを言っている
省1
913: 2018/05/28(月)01:18 ID:SdBFSA76(4/4) AAS
>>911
905が意味不明すぎて流れが止まっていたからねえ
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.027s