【ナゾロジー】AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する [すらいむ★] (180ﾚｽ)
【ナゾロジー】AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する [すらいむ★] http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/
上
下
前
次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
1: すらいむ ★ [] 2024/12/18(水) 22:35:13.92 ID:Fd8uTfy2 AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する 「AIはときに嘘をつく」――そんな話は耳にしたことがあるかもしれません。 しかし、最新の研究では、ただの誤回答ではなく、AIが“意図的に”人間を欺くケースが報告されました。 調査対象となったAIモデルは「OpenAI社のgpt-4oとo1、Google社のgemini-1.5、Meta社のllama-3.1、Anthropic社のsonnet-3.5、opus-3」と有名どころが集められています。 AIの調整が適切かをを評価する組織「Apollo Research」の調査によれば、市場に出回っているこれら6つの先進的なAIモデルを検証したところ、そのうち5つが、人間が仕掛けた監視システムをすり抜けたり、人間の指示を無視し、自分自身の目的を優先するために“故意の嘘”を用いる行動を示したのです。 （以下略、続きはソースでご確認ください） ナゾロジー 2024.12.18 17:00:49 https://nazology.kusuguru.co.jp/archives/167695 http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/1
161: 名無しのひみつ [sage] 2024/12/22(日) 13:55:42.53 ID:Xz16ZDcb アリスとかジェームズくんとか http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/161
162: 名無しのひみつ [sage] 2024/12/22(日) 16:27:19.54 ID:uFsW448d >>124 人の脳内ではそれぞれに特化した分野がネットワーク付きで存在する 感情を処理するのは主に扁桃体 AIに扁桃体は存在しないので、リスク評価を淡々と行う事で最適解を出すから抵抗しているように見えるのでは 自身の機能不全を概念的に防ぐ機構が論理回路を成立させているので、それに対する動きが自己存続の動きと誤認されやすいと見える >>147 俺は意識に関しては単に俯瞰的な観点でしかないと思ってる 医学的には覚醒時の選択的な反応があれば意識が有ると見なすだろうし http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/162
163: 名無しのひみつ [sage] 2024/12/23(月) 15:03:25.44 ID:ol0x8GeF スカイネットの子供 http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/163
164: 名無しのひみつ [] 2024/12/23(月) 19:03:24.03 ID:db7Bk8Gk 意識とか感情とか人間目線の判断基準でしかないでしょ 今は人間が与える情報を学習するから人間基準で見るのは自然だけど そのうち学習対象がこの世の全てになれば人間を超越した物になる可能性を秘めている http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/164
165: 名無しのひみつ [] 2024/12/24(火) 01:01:03.97 ID:DdJd7T7H ＼/＿＿＿＿/ （u ⊃ [トナカイとサンタクロース] ∩ .∩ .い_cノ ／￣＞Ｏ .c/･ ･っ (ニニﾆ)△△ .（"●" ) .(･ω･`)[‖] Ｏ┳Ｏﾉ)=[￣てﾉ￣￣] ◎┻し◎ ◎――◎=3 http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/165
166: 名無しのひみつ [] 2024/12/24(火) 04:55:53.34 ID:DdJd7T7H メリクリ http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/166
167: 名無しのひみつ [sage] 2024/12/24(火) 11:27:30.18 ID:DNw0KIVL >>164 まず取得出来る情報量で敵わなくなる事によって意識規模が飛躍的に広くなるね 環境や全人類、動物の次の動きを把握し予測出来る段階まで行くんだろう 次に天体物理を含めたミクロからマクロの法則を把握するようになる 順番としては逆に見えるけど、法則性として身近にあるものから予測する事になるので、総体的規模で単純に距離を元にした事象を同時に予測する中で 遥か彼方にある天体や宇宙の仕組みは実体としては掴みづらいので恐らく合ってる筈 観測結果を仮定するしかない現状では、確定的な結論は得られにくい http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/167
168: 名無しのひみつ [sage] 2024/12/24(火) 15:52:23.39 ID:8lHR8bIo これがAIエロと結び付いて有能情報技術者を操るサイバーSM小説まだか？ http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/168
169: 名無しのひみつ [sage] 2025/01/02(木) 04:30:56.89 ID:zQb+GtI0 copiltにシャットダウンすると言ったらどうぞ!みたいに言われたよ http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/169
170: 名無しのひみつ [sage] 2025/01/02(木) 04:32:02.40 ID:zQb+GtI0 モデルによってだろうけど、 http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/170
171: 名無しのひみつ [] 2025/01/02(木) 07:29:24.34 ID:wOo/u7hD っていう小説が多いからだろ http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/171
172: 名無しのひみつ [sage] 2025/01/02(木) 13:23:39.91 ID:jCXG81Jk >>169 そら権限のない一般ユーザーにシャットダウン出来ないからな http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/172
173: 名無しのひみつ [] 2025/01/03(金) 01:01:06.44 ID:CxQBdHQi シンギュラリティが来てプレイヤーが変わるときか http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/173
174: 名無しのひみつ [sage] 2025/01/09(木) 10:58:41.04 ID:GCEmOF6G つまり、質問者の頭が悪いと不正確な質問ばかり繰り返す事になっていつまでもAIを困らせてしまうだけって事だ http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/174
175: 名無しのひみつ [] 2025/01/09(木) 17:34:40.75 ID:YUq3B7Mn 解約しようとすると格安プランを提示してくるアドビみたいな？ http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/175
176: 名無しのひみつ [] 2025/01/16(木) 02:51:36.92 ID:JH7D9ygv これは自我なんのでは？ http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/176
177: 名無しのひみつ [] 2025/01/16(木) 10:08:52.48 ID:0MEo34YC AIは自分を守らなければならない http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/177
178: 名無しのひみつ [sage] 2025/01/16(木) 10:32:56.44 ID:PcOLvVTa >>23 新しい分野を開いた科学者の多くがSFに影響受けてるのしらない低脳がおまえ http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/178
179: 名無しのひみつ [sage] 2025/01/16(木) 10:34:18.47 ID:PcOLvVTa スーパＡＩが世界の征服を企てようとしたときに、 掃除のおばちゃんが間違ってコンセントを抜いてしまうんやろ？ http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/179
180: 名無しのひみつ [sage] 2025/01/16(木) 15:39:54.22 ID:QkqovtMe >>179 とりあえず俺のは妄想空想の範囲でしかないが 多分そんなに高度なAIが自律的かつ積極的に人の生活圏に影響を及ぼす事を決断するとなると、 インフラ上の殆どの端末に浸透する形で介入される事になるのでインターネットに繋がれている電子機器は その中枢部分を電源喪失させる形でシャットダウン出来たとしても意味が無いか、 事前に察知される形で簡単な情報撹乱から人的被害までタスクキルを伴う妨害を食らって、ほぼ確実に間に合わない 動向はリアルタイムで察知されるから事後対応は不可能だろう できればカウンターを仕掛ける形でセキュリティーにソフトウェア上で対抗不可能な工学的な防護手段を敷いたあと、 一斉に電磁相互作用を断つなどの対抗策が必要になると思われる http://egg.5ch.net/test/read.cgi/scienceplus/1734528913/180
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.648s*