【統計分析】機械学習・データマイニング33 (989ﾚｽ)
上下前次1-新
199: (ﾜｯﾁｮｲ 4701-lqow [126.36.145.219]) 2023/06/16(金)19:20 ID:Bs4mmhDb0(1) AAS
excel vbaやpython一からやるくらいならblツール買ってデータ分析したほうがコスパ良いような気がする
200: (ﾜｯﾁｮｲ ff30-dYQK [121.103.189.61]) 2023/06/17(土)14:37 ID:4A1wnTFc0(1/2) AAS
日本の職人が海外で大人気みたいだな
寿司職人とか引く手あまたらしい
海外だと年収1000万以上当たり前
当然、生活費は日本よりかかることになるが、、、
時代は変わったよな
こっちで流行りのプロンプトエンジニアより息が長そう
データサイエンティストってのも前に居たけど
201: (ｵｯﾍﾟｹ Sr33-7QlU [126.204.227.128]) 2023/06/17(土)17:58 ID:LTOKm94dr(1) AAS
何ヶ月前の話題を今頃拾ってんだよ
202: (ﾜｯﾁｮｲ ff30-dYQK [121.103.189.61]) 2023/06/17(土)18:47 ID:4A1wnTFc0(2/2) AAS
誤字脱字指摘による知識アピールや
情報強者アピールも、、、
まだそんなところに拘っているのかって思うぐらいに
時代は変わって行ってるよね
203: (ﾜｯﾁｮｲ ff89-C6j3 [39.111.228.181]) 2023/06/17(土)21:14 ID:1DrS7Ptw0(1) AAS
変化が永遠に続くわけがない、ということはいづれ・・・
204: (ﾜｯﾁｮｲ 5f10-Fsb3 [220.96.88.16]) 2023/06/18(日)00:33 ID:w1N4Ao7W0(1/6) AAS
頭悪い人だけど、ゼロつくの4章がようやくわかって、確率的勾配降下法実行してみてるんだけど、
学習ってこんな処理おっそいの？iters_num=10000じゃなくてiters_num=1000でやってんだけど、
これでも一晩かかるじゃん。
GPU使ったらもっと早くなるのかもしれんが、これほどまで計算量使うとは思ってなかった。
205: (ﾜｯﾁｮｲ 5f10-Fsb3 [220.96.88.16]) 2023/06/18(日)00:35 ID:w1N4Ao7W0(2/6) AAS
確率的勾配降下法と逆誤差伝搬法だとどれぐらい速度に差があるもんですか？
206: (ﾜｯﾁｮｲ 5f10-Fsb3 [220.96.88.16]) 2023/06/18(日)00:35 ID:w1N4Ao7W0(3/6) AAS
誤差逆伝搬法だった。
207: (ﾜｯﾁｮｲ 5f10-Fsb3 [220.96.88.16]) 2023/06/18(日)00:44 ID:w1N4Ao7W0(4/6) AAS
こんなクッソ遅いのか。iters_num=300にしたわ。
accuracy_rate低くなってもいいやとりあえず学習できることだけ確認できりゃいいや。
208: (ﾜｯﾁｮｲ 5f10-3xra [220.96.88.16 [上級国民]]) 2023/06/18(日)05:56 ID:w1N4Ao7W0(5/6) AAS
300で十分だった。学習していることを確認するだけなら10000とかいらない。
Accurary_rateも８２％ぐらい出たし。
209: (ﾜｯﾁｮｲ ff89-C6j3 [39.111.228.181]) 2023/06/18(日)10:14 ID:3Rzd3FiC0(1) AAS
dog year, rat year
210: (ﾜｯﾁｮｲ 5f90-sQL/ [124.47.242.122]) 2023/06/18(日)11:02 ID:DYOcuNC50(1) AAS
実務と勉強では学習させる時間は違ってもいいな
211(1): (ﾜｯﾁｮｲ df6e-lteg [138.64.97.11 [上級国民]]) 2023/06/18(日)11:36 ID:feIkt70k0(1/2) AAS
GPT ってデコーダ層だけでできてるけど
前段のデコーダ層はtransformerのエンコード的に、後段のデコーダ層はデコード的に動いてんの？🤔
212: (ｱｳｱｳｳｰ Sa23-BzF1 [106.130.199.59]) 2023/06/18(日)15:53 ID:fpcC6KWOa(1/2) AAS
>>211
それミスリード
エンコーダ的な動きもしてる
transformerの一種という理解でモデルを見つめるべき
213: (ﾜｯﾁｮｲ df6e-lteg [138.64.97.11 [上級国民]]) 2023/06/18(日)16:53 ID:feIkt70k0(2/2) AAS
デコーダ層だけという見方が違うってこと？🤔
214(1): (ｱｳｱｳｳｰ Sa23-BzF1 [106.130.199.59]) 2023/06/18(日)17:41 ID:fpcC6KWOa(2/2) AAS
違うね
俺もそこに引っかかったのよ
実際モデル見たら全然違うじゃねーかと
推論時に1トークンづつ出力するからそこがデコーダっぽいってことなんだろうけどね
エンコーダデコーダで考えるものではない
215(1): (ﾜｯﾁｮｲ 5f10-3xra [220.96.88.16 [上級国民]]) 2023/06/18(日)21:51 ID:w1N4Ao7W0(6/6) AAS
Transformerのことなんて一生わからん頭悪い人だけど、
ゼロつく５章までなんとか理解できた。
誤差逆伝搬法ってSGDと比較にならんほど早いのね。こんなに差があるとは知らなかった。
そら誤差逆伝搬法でやることになるわ。
216(1): (ﾜﾝﾄﾝｷﾝ MM0f-lteg [211.17.99.158 [上級国民]]) 2023/06/19(月)09:15 ID:ZdHK5ta+M(1) AAS
>>214
なるほど
ちゃんと論文読んでみる😤
217: (ﾜｯﾁｮｲ 5f02-C6j3 [118.154.96.7]) 2023/06/19(月)16:30 ID:wsVmiElF0(1) AAS
エンコーダデコーダという捉え方からは離れた方がいいかと
ユーザの質問文を入力してるとき、ChatGPTちゃんは必死に質問文の次の単語が何か考えながら聴いてるんだよな
かわいい
218(1): (ｱｳｱｳｳｰ Sa23-BzF1 [106.130.199.59]) 2023/06/19(月)16:43 ID:BTX61M/sa(1) AAS
>>216
論文見てもわからんよ
詳しい説明書いてないから
実際のコードを読むしかない
これが本家のモデル
他のゼロから作る系は間違ってる可能性あるからこれを読むべし
tf1で実装されているのが非常読みにくいが仕方ない
外部ﾘﾝｸ:github.com
上下前次1-新書関写板覧索設栞歴
あと 771 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.008s