[過去ログ]
関数電卓・グラフ電卓総合 [無断転載禁止]©2ch.net (1002レス)
上
下
前
次
1-
新
このスレッドは過去ログ倉庫に格納されています。
次スレ検索
歴削→次スレ
栞削→次スレ
過去ログメニュー
912
: 2018/05/28(月)01:15
ID:SdBFSA76(3/4)
AA×
>>905
[240|
320
|
480
|
600
|
100%
|
JPG
|
べ
|
レス栞
|
レス消
]
912: [sage] 2018/05/28(月) 01:15:20 ID:SdBFSA76 Saturn CPU のことを知らない人がいるかもしれないので、一応説明しておく Saturn は4bitマイコンにも関わらず、64bitレジスタ9本を持っている 64bitレジスタというが正体は4bitレジスタが16個繋がっているのに近い(64bitレジスタのデータ転送を行うとき、ハード内部で4bitに分割して16回転送する) この64bitレジスタはBCD12桁の浮動小数点の加減算がハードウェアでできる 加減算だけのFPUと考えてもいい レジスタのビット配置はハードウェア固定なので、12桁より多い数値は扱えない そのため、内部精度を上げることはできない つまり、表示精度=内部精度である ソフトウェアでBCD計算すれば、桁数を増やすことは不可能ではないが、Saturnの性能からすると実用にならないだろう >>905は HP電卓 = Saturn と勘違いしているらしく、「HPの電卓は最大表示以上の精度は(計算結果には)ないし」というトンチンカンなことを言っている 今のHP電卓にSaturnを使ったものはない http://lavender.5ch.net/test/read.cgi/dgoods/1499790261/912
のことを知らない人がいるかもしれないので一応説明しておく はマイコンにも関わらずレジスタ本を持っている レジスタというが正体はレジスタが個繋がっているのに近いレジスタのデータ転送を行うときハード内部でに分割して回転送する このレジスタは桁の浮動小数点の加減算がハードウェアでできる 加減算だけのと考えてもいい レジスタのビット配置はハードウェア固定なので桁より多い数値は扱えない そのため内部精度を上げることはできない つまり表示精度内部精度である ソフトウェアで計算すれば桁数を増やすことは不可能ではないがの性能からすると実用にならないだろう は 電卓 と勘違いしているらしくの電卓は最大表示以上の精度は計算結果にはないしというトンチンカンなことを言っている 今の電卓にを使ったものはない
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 90 レスあります
スレ情報
赤レス抽出
画像レス抽出
歴の未読スレ
AAサムネイル
ぬこの手
ぬこTOP
0.033s