【統計分析】機械学習・データマイニング33 (897ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
400(1): (ﾜｯﾁｮｲ abca-pScM [254.206.42.254]) 2023/11/06(月)18:13 ID:jt8VLAcA0(1) AAS
確率勾配法も、transfomerやCNNもあんまり数理的に詳しくない人が思いついた気がするけど、数理的に深い方の統計機械学習はどのくらい価値があるのかイマイチわからない
402: (ｱｳｱｳｳｰ Sa0f-2ws7 [106.146.125.80]) 2023/11/07(火)00:34 ID:68QHudqSa(1) AAS
>>400
バックプロゲーションやNNの最適化を60年代にすでに完成させてた甘利先生が
ローカルミニマムに陥るのを防ぐことはできないと言って諦めた分野だからな
少なくとも数学的な理論では無理だと判断した
ローカルミニマムに陥らないようにする各種手法を小手先のテクニックと言って切り捨ててたし
確かにミニバッチ勾配降下法とかドロップアウトとかレイヤー正規化だとかの理論は
あくまでやってみたら有効だったというだけで証明は一切ない
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 1.223s*