くだらねぇ問題はここへ書け (836レス)
前次1-
抽出解除 必死チェッカー(本家) (べ) レス栞 あぼーん

831: 11/15(金)09:10 ID:qay2j+Mx(1) AAS
固定精度浮動小数点数の代数上の計算で、離散型確率変数が極端に多い場合に確率質量関数の出力値がすべて0に潰れてしまうのって回避できる?

つまり計算機上では x の配列の内容次第では \forall i \in [n]. exp(x_i) / \Sigma_{j \in [n]} exp(x_j) = 0.0 に潰れると思うんだけど、x の内容をなんとかして 0.00…01 でもいいので全体に分布させたい。([n]={1,...,n})
発散しない場合は x = [-Inf, …, -Inf] ぐらいしか思いつかない
確率質量関数って書いたけど、正確には softmax

擬似コード
sum = 0.0f
for (int j = 0; j < n; ++j){
sum += exp(x[j]) // nが非常に大きいのでx[j]の内容の如何ではsumはInfに発散する
}
softmax(x)_i = x[i] / sum // この値が0より大きくなってほしい、Inf, NaN以外ならnanでもいい
前次1-
スレ情報 赤レス抽出 画像レス抽出 歴の未読スレ AAサムネイル

ぬこの手 ぬこTOP 1.326s*