[過去ﾛｸﾞ] 【悲報】Nvidiaバブル、終了か。加算演算だけで高速・高性能を実現するAIモデル「BitNet」をMicrosoftが発表し、ハードウェア革命到来 [666250534] (483ﾚｽ)

【悲報】Nvidiaバブル、終了か。加算演算だけで高速・高性能を実現するAIモデル「BitNet」をMicrosoftが発表し、ハードウェア革命到来 [666250534] http://greta.5ch.net/test/read.cgi/poverty/1709121829/

上下前次1-新
通常表示 512ﾊﾞｲﾄ分割 ﾚｽ栞

---

このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ

---

1: 安倍晋三🏺 ◆ABeSHInzoo (ﾜｯﾁｮｲW 0656-fwA/) [] 2024/02/28(水) 21:03:49.07 ID:jm46InH00 sssp://img.5ch.net/ico/nida.gif WirelessWire News 『1ビットLLMの衝撃! 70Bで8.9倍高速　全ての推論を加算のみで!GPU不要になる可能性も』 https://wirelesswire.jp/2024/02/86094/ Microsoftの中国チームがとてつもないLLMをリリースした。それが「BitNet 1.58Bits」だ。 もともとMicrosoftはかねてから「1ビット量子化」の研究を続けて来た。しかし、32ビット浮動小数点での計算が主流な時代にはあまりに野心的で荒唐無稽なプロジェクトに見えていたのは否めない。しかし、現在、大規模言語モデル(LLM;Large Language Model)は8ビット、4ビットで量子化されるのが当たり前になり、量子化しても性能劣化はある程度まで抑えられることも知られるようになった。 昨年10月に発表した「BitNet」は、多くの人々が他のことに気を取られていてほとんど話題にならなかった。 そんな中、満を持して発表された1ビットLLMの性能に関するレポートは、衝撃的と言っていい内容だ。論文のタイトルも堂々と「The Era of 1-bit LLM(1ビットLLMの時代)」としている。 彼らが発表したグラフを引用しよう。 https://i.imgur.com/VMD8HyS.png まず、最近主流になっている70B(700億)パラメータモデルでの比較である。Llamaの70BとBitNetの70Bモデルを比較すると、BitNetは8.9倍のスループットを誇るという。 「速いだけで回答が微妙なのでは」と心配するのが普通だろう。 そこでLlamaモデルとの比較が載っている。 https://i.imgur.com/zmgoo1X.png この表によると、BitNetはLlamaよりも3倍高速でしかも高精度ということになる。 PPLは「困惑」の度合いを意味する数値で、低いほど「困惑してない」ことになる。Llamaよりも性能劣化してないどころか性能は上がっている。 また、各種ベンチマークにおいても平均点は同規模のBitNetがLlamaを上回っている。しかもBitNetは規模が大きくなるほどLlamaに対して優位に立つようになっている。 この圧倒的なスピードの秘密は、BitNetが文字通り「1ビットで処理している」からだ。 https://i.imgur.com/1tcsItA.png http://greta.5ch.net/test/read.cgi/poverty/1709121829/1

464: 番組の途中ですがアフィサイトへの転載は禁止です (ﾆﾝﾆｸｸｴW 0b56-dVQ1) [sage] 2024/02/29(木) 17:55:06.55 ID:Rvd8Q7dO0GARLIC >>428 nvidiaが強いのは元からあるゲーム向けグラボの生産ラインを有効活用できるからであって 他が既に作ってる物を新規に設備投資して作っても儲からないのでは http://greta.5ch.net/test/read.cgi/poverty/1709121829/464

465: 🏺 (ﾆﾝﾆｸｸｴ Sdea-2noF) [sage] 2024/02/29(木) 18:15:57.74 ID:vadelsAtdGARLIC >>462 なるほど 理解した http://greta.5ch.net/test/read.cgi/poverty/1709121829/465

466: 番組の途中ですがアフィサイトへの転載は禁止です (ﾆﾝﾆｸｸｴ ca0d-EVRh) [sage] 2024/02/29(木) 18:28:39.09 ID:ajGF16i+0GARLIC グラボ以外にまともな電力供給しながら高速バス接続できるデバイスなんて量産できないから 結局NVIDIA一強 http://greta.5ch.net/test/read.cgi/poverty/1709121829/466

467: 番組の途中ですがアフィサイトへの転載は禁止です (ﾆﾝﾆｸｸｴ 9f0d-EVRh) [sage] 2024/02/29(木) 18:32:48.69 ID:b4cyILA20GARLIC NVIDIAも現状実用するのにGPUの形態が都合が良いからGPUでやってるだけで もう何年も前からASIC・専用プロセッサ・その他もろもろ必要な関連会社に買収・投資しまくって準備してるからな 結局開発環境や人材の先行利益あって金も大量にあるエヌビが有利 http://greta.5ch.net/test/read.cgi/poverty/1709121829/467

468: 🎮🏺 ◆abesHiNZOU6m (ﾆﾝﾆｸｸｴ Sdea-Jwpq) [sage] 2024/02/29(木) 18:41:36.08 ID:KFK9pT25dGARLIC NVDAホルダーの眠れない夜 http://greta.5ch.net/test/read.cgi/poverty/1709121829/468

469: 番組の途中ですがアフィサイトへの転載は禁止です (ﾆﾝﾆｸｸｴ 038f-73hO) [sage] 2024/02/29(木) 18:58:26.73 ID:LMCgMh5P0GARLIC NVIDIAはGH200のHopper部分を置き換えるだけで色々対応できるんじゃねーのそのためにDGXプラットフォーム作ったんだろうし というか他の会社がGH200みたいなの作ろうと思ってもAIプロセッサ（GPU）以外の部分の量産ノウハウ不足でまともな値段で販売できないよ http://greta.5ch.net/test/read.cgi/poverty/1709121829/469

470: 安倍晋三🏺 (ﾆﾝﾆｸｸｴ 4685-w3el) [] 2024/02/29(木) 19:07:03.26 ID:GycB4h850GARLIC >>355 > このサイズでこの解答は驚異的だ。もっと出鱈目なことを言うのが常なのである。 > BitNetが、その性質上、小さいモデルではtransformerに精度で勝てなかったからだ。 小さいモデルではTransformerに勝てないのに、小さいサイズでの性能が驚異的という矛盾 またくだらない妄言だね http://greta.5ch.net/test/read.cgi/poverty/1709121829/470

471: 安倍晋三🏺 (ﾆﾝﾆｸｸｴ 4685-w3el) [] 2024/02/29(木) 19:14:53.27 ID:GycB4h850GARLIC この論文の結果が示唆しているのは 従来のLLMは正則化を改善することで大幅に性能向上する可能性があるということ GPU不要論は中国の事情なのか話題作りか知らないけど、真面目に取り合う必要なし http://greta.5ch.net/test/read.cgi/poverty/1709121829/471

472: 番組の途中ですがアフィサイトへの転載は禁止です (ﾆﾝﾆｸｸｴW 06b9-wvGq) [sage] 2024/02/29(木) 19:33:00.40 ID:PKASaZ7z0GARLIC 結局、Transformer系って密すぎるんだよな だから1bit化して丁度よいくらいというか、むしろロバストになって精度が上がったりするんだろう http://greta.5ch.net/test/read.cgi/poverty/1709121829/472

473: 安倍晋三🏺 (ﾆﾝﾆｸｸｴW 461f-fCbz) [] 2024/02/29(木) 20:33:22.85 ID:ZBNrS8N80GARLIC FANG＋安泰だな http://greta.5ch.net/test/read.cgi/poverty/1709121829/473

474: 番組の途中ですがアフィサイトへの転載は禁止です (ﾆﾝﾆｸｸｴ 9b16-o+si) [] 2024/02/29(木) 20:49:51.41 ID:Jl6WxLvj0GARLIC そもそもグラボなくてもクラウド配信でゲームできるようになったんだろ グラボいらなくなるよ http://greta.5ch.net/test/read.cgi/poverty/1709121829/474

475: 番組の途中ですがアフィサイトへの転載は禁止です (ﾆﾝﾆｸｸｴW 0605-U9dJ) [] 2024/02/29(木) 21:12:46.25 ID:blz/wy3M0GARLIC これなんで日本人しか騒いで無いん？ X見てもGoogleトレンドみても外人騒いで無いんやが http://greta.5ch.net/test/read.cgi/poverty/1709121829/475

476: 天才 (ﾆﾝﾆｸｸｴ 1b0b-Y4uW) [] 2024/02/29(木) 21:14:57.81 ID:C5FdvF7U0GARLIC この論文でたの４ヶ月前なんだけど。 http://greta.5ch.net/test/read.cgi/poverty/1709121829/476

477: 安倍晋三🏺 ◆abesHiNZOU6m (ﾆｸｸｴW 466b-VtZE) [　] 2024/02/29(木) 22:30:37.32 ID:RS+KQQNC0NIKU ジャック・ザ・リッパーおるんか http://greta.5ch.net/test/read.cgi/poverty/1709121829/477

478: 番組の途中ですがアフィサイトへの転載は禁止です (ﾆｸｸｴ ca0d-EVRh) [sage] 2024/02/29(木) 22:38:11.10 ID:nfMKqG/80NIKU そしてNVDA株は今日もアゲアゲ http://greta.5ch.net/test/read.cgi/poverty/1709121829/478

479: 安倍晋三🏺 ◆ABeSHInzoo (ﾆｸｸｴW 9b89-6f7D) [sage] 2024/02/29(木) 23:05:37.39 ID:kFF8t9PG0NIKU >>463 MSも別にこれをCPUで動かすとは言ってないでしょ 既存GPU上でも無駄が多いけどとりあえずは動くし、最終的には加算だけが異常に高速なNPUのようなもので動かすことを想定してる そこに高速メモリ積めばいい http://greta.5ch.net/test/read.cgi/poverty/1709121829/479

480: 番組の途中ですがアフィサイトへの転載は禁止です (ﾆｸｸｴW 06b9-wvGq) [sage] 2024/02/29(木) 23:08:47.51 ID:PKASaZ7z0NIKU >>475 驚き屋が騒いでるだけだぞ 量子化なんて前から取り組まれてる分野なのに http://greta.5ch.net/test/read.cgi/poverty/1709121829/480

481: 番組の途中ですがアフィサイトへの転載は禁止です (ﾆｸｸｴW aafc-KPVc) [] 2024/02/29(木) 23:12:39.72 ID:LFoO4+jb0NIKU 結局NVDAは伸びるってことだな。よかったよかった http://greta.5ch.net/test/read.cgi/poverty/1709121829/481

482: 番組の途中ですがアフィサイトへの転載は禁止です (ﾆｸｸｴ 5f5f-MEMs) [sage] 2024/02/29(木) 23:59:04.89 ID:aM1X9ngU0NIKU >>479 高速メモリ積めばいいって言葉で言うだけなら簡単だよな 実際はそれを一から製品化すると販売価格5000万とかになる ノウハウあってGPUの規格流用して超大規模に量産してるNVIDIAだから1000万以下で作れてるだけ http://greta.5ch.net/test/read.cgi/poverty/1709121829/482

483: 番組の途中ですがアフィサイトへの転載は禁止です (ﾜｯﾁｮｲ 9f0d-EVRh) [] 2024/03/01(金) 00:14:34.62 ID:9RL2We4+0 今日のNVDAの株価+2%超、MSFTは+0.2%弱 これが現実である http://greta.5ch.net/test/read.cgi/poverty/1709121829/483

---

上下前次1-新書関写板覧索設栞歴

---

ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ

---

Google検索

Wikipedia

---

ぬこの手 ぬこTOP 0.939s*