技術的特異点/シンギュラリティ261 (954ﾚｽ)
上下前次1-新
897: 09/15(日)10:51 ID:MWCCIrIe(39/80) AAS
OpenAIにとっての本命があるとしたら今作ってるらしいオリオンだろう
o1の合成データ使って訓練するモデル
まぁ俺にはo1ことストロベリーも画期的に見えるけど 別物とはいえトランスフォーマー現れたくらいの凄さだと思う
OpenAIスタッフも言ってるが長考で性能スケーリングが続くなら、本来の学習データの質と量上げるスケーリングに新たに長考も加わるってことだからな
可能性しか感じねえ
898: 09/15(日)10:55 ID:MWCCIrIe(40/80) AAS
今の無料で使えるAIはスレッドが長くなると対応が鈍ったり、別のスレッドになると前の話は忘れてしまうんだよな。
一昔前みたいに前の会話を丸々覚えてないのに比べたら進歩したけど。
一方、人間は忘却もあるけど基本かけられた言葉はだいたい覚えている。印象深いものなら特に。
これが良く出るか悪く出るかはその人の人生の歩み方次第だけどね。
899: 09/15(日)10:58 ID:MWCCIrIe(41/80) AAS
人間が優秀なのは生誕から現在までに得た知識をフルに使って生きてくこと。
当然ながらロシア語とかに一切触れなければロシア語なんて話せるはずがない。
技能を得るにはそれなりの年月の勉強と実践が必要。
900: 09/15(日)11:02 ID:MWCCIrIe(42/80) AAS
o1を少し使ってみて分かったことは、これ人類の90%より賢い。さらに数時間、数日、数週間と推論時間を増やせるらしく、そうすると実質的にAGIになる。というかこの方向性の先にASIもある。使いこなすのに一定の知能を求められ
るので、90%側の人はもう結構厳しそうという印象です。
外部ﾘﾝｸ:x.com
901: 09/15(日)11:06 ID:MWCCIrIe(43/80) AAS
サム・アルトマン
「o1 AI モデルの最大の新たな進歩は、長期間にわたって困難な問題を推論する能力であり、科学や工学にも応用できる」
902: 09/15(日)11:09 ID:MWCCIrIe(44/80) AAS
ビルゲイツが「AIは生産性を300％上げる。10年後は今ほど働かなくて良くなる」と言ったらしい
903: 09/15(日)11:13 ID:MWCCIrIe(45/80) AAS
妄言と願望だらけのスレになっちゃったな
前座の前座とかいうのもソースないし
904: 09/15(日)11:16 ID:MWCCIrIe(46/80) AAS
ﾜｯﾁｮｲ 3c84-fdc1は恐らくビル・ゲイツを妄言者呼ばわりできるイーロン・マスク級の人物に違いないな
905: 09/15(日)11:20 ID:MWCCIrIe(47/80) AAS
人間の推論とAIの推論の差で『創造性、ひらめき』があるとか言われてたけどo1でこれ得られるかね
全く新しいもの生み出す訳じゃなく、無関係に見える要素を組み合わせてできるのが創造性みたいだが
構って欲しいならヤフコメか嫌儲みたいなとこ行けって
AIの基礎知識すらない奴相手にマジレスする気が起こらん
906: 09/15(日)11:24 ID:MWCCIrIe(48/80) AAS
まさにAI戦国時代の到来
現時点におけるトップクラスの言語モデルを作成できた組織は
① OpenAI（GPT-4o、o1）
② Google（Gemini 1.5 Pro）
③ Anthropic（Claude 3 Opus、Claude 3.5 Sonnet）
④ xAI（Grok-2）
⑤ Mistral（Mistral large 2）
⑥ Meta （Llama 3.1 405B）
次の競争に向けて着実に準備が進んでいる
外部ﾘﾝｸ:x.com
907: 09/15(日)11:27 ID:MWCCIrIe(49/80) AAS
外部ﾘﾝｸ:x.com
OpenAI o1を含め東大数学試験を解かせてみました
結果として確かにOpenAI o1はかなり精度よく解けました。
サンプル数が少ないとはいえ、
微分積分を理解しているということは、科学にも貢献することは間違いない
ただ問題を解くのと、
問題を発見することは別かもね
908: 09/15(日)11:31 ID:MWCCIrIe(50/80) AAS
中国製AIはハルシネーションの低さですでに世界一
外部ﾘﾝｸ:weekly.ascii.jp
＞「智譜AI（Zhipu AI）」のGLM-4-9B-Chatが1.3％でもっともハルシネーションレートが低い
OpenAIのモデルを超えた幻覚率の低さは正直すごい
中国馬鹿にできないな
まあ創作するときは幻覚が多少あったほうがいいんだろうけど
909: 09/15(日)11:34 ID:MWCCIrIe(51/80) AAS
今の状況を逆に分析してみると
もう数学とか論理パズルの問題は、かなり東大レベルまで到達しちゃってるから
これ以上そこを掘っていくよりも
自律性とかメタ認知とか、価値判断とか3D認識とか
実世界で何かを観察して計画を立てさせる、もっと実用的な知能をはめ込んで行く方向性が有望なんじゃないか？
910: 09/15(日)11:38 ID:MWCCIrIe(52/80) AAS
ＡＩで稼ぐ台湾、金融各社が殺到
外部ﾘﾝｸ:www.bloomberg.co.jp
＞スイスのＵＢＳグループは、台湾ではミリオネアの数が28年までの５年間で５割ほど増え、120万人近くに達すると予想
やっぱりLLM運用で一番儲かるのが半導体だよな
その次にMicrosoftやGoogleといったクラウド提供会社
NVIDIA＞TSMC＞素材＞MS＞Google
911: 09/15(日)11:42 ID:MWCCIrIe(53/80) AAS
サムのX。オリオンの事か
＞私は中西部の家にいるのが大好きです。 夜空はとても美しいです。
もうすぐ冬の星座が昇るのを楽しみにしています。彼らはとても素晴らしいです。
912: 09/15(日)11:45 ID:MWCCIrIe(54/80) AAS
外部ﾘﾝｸ:arxiv.org
どうやらTransformerを超える？アーキテクチャの論文が出たみたい
運動の強化学習では、とんでもない速度で学習するとか
外部ﾘﾝｸ:scrapbox.io
913: 09/15(日)11:49 ID:MWCCIrIe(55/80) AAS
どうやら論文の内容を読んでみると、
アーキテクチャ内部の神経の仕組みそのものが刷新されているようで。
Transformer(2017)は、ニューラルネットが言語を効率よく処理できるように仕組みを整えてあげたものだが
ニューラルネット自体は1980年代から変わっていない。
つまり古い設計が基礎にそのまま使われている
今回の論文は根本の部分を、最新の脳研究の成果を取り込んで、
大脳皮質にある「錐体ピラミッド型ニューロン」の仕組みを取り入れたと書かれてある
俺は脳について詳しく知らないから、その細胞がどんな役割をするのかわからんが
外部ﾘﾝｸ:bsd.neuroinf.jp
%9B%9E%E8%B7%AF
914: 09/15(日)11:53 ID:MWCCIrIe(56/80) AAS
冬の星座と彼らがオリオンとジェミニ指してるのは分かるけど
中西部の家ってのは何を表してんだ？
915: 09/15(日)11:56 ID:MWCCIrIe(57/80) AAS
世界モデルを持ち始めてるから意識に近いものを持つのも時間の問題じゃないかな
↓
「世界モデルを持たないLLM」が解けない問題。
それをOpenAI o1-preview, o1-mini, GPT-4oに解かせてみるテスト。
Q「引くと書いてあるドアを反対側から押すとどうなりますか？」
しっかりとo1-previewだけが正解できてた！
外部ﾘﾝｸ:x.com
916: 09/15(日)12:00 ID:MWCCIrIe(58/80) AAS
AIに新しい数学体系を考案させてみた
外部ﾘﾝｸ:note.com
ChatGPTの新しいバージョン o1は、数学オリンピックの問題が解けるほど数学に詳しいらしい。
最近、僕は乱数の方が実数よりも重要なのではないかと思っていて、乱数テンソルを基準とした新しい数学的体系を作れないか、GPT-o1に考えさせてみた。
上下前次1-新書関写板覧索設栞歴
あと 38 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.012s