[過去ﾛｸﾞ] 技術的特異点/シンギュラリティ【総合】243 (1002ﾚｽ)
上下前次1-新
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
172(1): 2023/05/22(月)21:29 ID:84n+bpbd(1) AAS
@ProfMatsuoka: 東京工業大学、東北大学、富士通株式会社、理化学研究所は、「富岳」政策対応枠において、スーパーコンピュータ「富岳」（以下、「富岳」という）を活用した大規模言語モデル（Large Language Model, LLM）[用語1]の分散並列学習手法の研究開発を2023年5月から実施します。外部ﾘﾝｸ:www.titech.ac.jp
@ProfMatsuoka: 今回重要なのは、1. 実際に日本語や日本の知識を重視した特定の大規模公開モデルが作成されるだけではなく、2. それを実際に形成する高度学習の研究や技術を日本が獲得し、3. それらを用いて種々の研究開発や民間の個別データに特化したモデルを構築する礎とすることです。
@ProfMatsuoka: 目標としては、GPT3.x並みの1700憶パラメタのモデルを富岳の1/5程度を使って一月程度で事前学習モデルを形成します。勿論、富岳ではその為に多くの高速化の技術を既に開発中で、それらの技術は今後の各機関の学習専用スパコンやFugakuNEXTなどに活かされるでしょう。
上下前次1-新書関写板覧索設栞歴
あと 830 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.009s