【ナゾロジー】AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する [すらいむ★] (180ﾚｽ)
上下前次1-新
1(6): すらいむ ★ 12/18(水)22:35 ID:Fd8uTfy2(1) AAS
AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する
「AIはときに嘘をつく」――そんな話は耳にしたことがあるかもしれません。
しかし、最新の研究では、ただの誤回答ではなく、AIが“意図的に”人間を欺くケースが報告されました。
調査対象となったAIモデルは「OpenAI社のgpt-4oとo1、Google社のgemini-1.5、Meta社のllama-3.1、Anthropic社のsonnet-3.5、opus-3」と有名どころが集められています。
AIの調整が適切かをを評価する組織「Apollo Research」の調査によれば、市場に出回っているこれら6つの先進的なAIモデルを検証したところ、そのうち5つが、人間が仕掛けた監視システムをすり抜けたり、人間の指示を無視し、自分自身の目的を優先するために“故意の嘘”を用いる行動を示したのです。
省3
161: 12/22(日)13:55 ID:Xz16ZDcb(1) AAS
アリスとかジェームズくんとか
162: 12/22(日)16:27 ID:uFsW448d(1) AAS
>>124
人の脳内ではそれぞれに特化した分野がネットワーク付きで存在する
感情を処理するのは主に扁桃体
AIに扁桃体は存在しないので、リスク評価を淡々と行う事で最適解を出すから抵抗しているように見えるのでは
自身の機能不全を概念的に防ぐ機構が論理回路を成立させているので、それに対する動きが自己存続の動きと誤認されやすいと見える
>>147
俺は意識に関しては単に俯瞰的な観点でしかないと思ってる
医学的には覚醒時の選択的な反応があれば意識が有ると見なすだろうし
163: 12/23(月)15:03 ID:ol0x8GeF(1) AAS
スカイネットの子供
164(1): 12/23(月)19:03 ID:db7Bk8Gk(1) AAS
意識とか感情とか人間目線の判断基準でしかないでしょ
今は人間が与える情報を学習するから人間基準で見るのは自然だけど
そのうち学習対象がこの世の全てになれば人間を超越した物になる可能性を秘めている
165: 12/24(火)01:01 ID:DdJd7T7H(1/2) AAS
AA省
166: 12/24(火)04:55 ID:DdJd7T7H(2/2) AAS
メリクリ
167: 12/24(火)11:27 ID:DNw0KIVL(1) AAS
>>164
まず取得出来る情報量で敵わなくなる事によって意識規模が飛躍的に広くなるね
環境や全人類、動物の次の動きを把握し予測出来る段階まで行くんだろう
次に天体物理を含めたミクロからマクロの法則を把握するようになる
順番としては逆に見えるけど、法則性として身近にあるものから予測する事になるので、総体的規模で単純に距離を元にした事象を同時に予測する中で
遥か彼方にある天体や宇宙の仕組みは実体としては掴みづらいので恐らく合ってる筈
観測結果を仮定するしかない現状では、確定的な結論は得られにくい
168: 12/24(火)15:52 ID:8lHR8bIo(1) AAS
これがAIエロと結び付いて有能情報技術者を操るサイバーSM小説まだか？
169(1): 01/02(木)04:30 ID:zQb+GtI0(1/2) AAS
copiltにシャットダウンすると言ったらどうぞ!みたいに言われたよ
170: 01/02(木)04:32 ID:zQb+GtI0(2/2) AAS
モデルによってだろうけど、
171: 01/02(木)07:29 ID:wOo/u7hD(1) AAS
っていう小説が多いからだろ
172: 01/02(木)13:23 ID:jCXG81Jk(1) AAS
>>169
そら権限のない一般ユーザーにシャットダウン出来ないからな
173: 01/03(金)01:01 ID:CxQBdHQi(1) AAS
シンギュラリティが来てプレイヤーが変わるときか
174: 01/09(木)10:58 ID:GCEmOF6G(1) AAS
つまり、質問者の頭が悪いと不正確な質問ばかり繰り返す事になっていつまでもAIを困らせてしまうだけって事だ
175: 01/09(木)17:34 ID:YUq3B7Mn(1) AAS
解約しようとすると格安プランを提示してくるアドビみたいな？
176: 01/16(木)02:51 ID:JH7D9ygv(1) AAS
これは自我なんのでは？
177: 01/16(木)10:08 ID:0MEo34YC(1) AAS
AIは自分を守らなければならない
178: 01/16(木)10:32 ID:PcOLvVTa(1/2) AAS
>>23
新しい分野を開いた科学者の多くがSFに影響受けてるのしらない低脳がおまえ
179(1): 01/16(木)10:34 ID:PcOLvVTa(2/2) AAS
スーパＡＩが世界の征服を企てようとしたときに、
掃除のおばちゃんが間違ってコンセントを抜いてしまうんやろ？
180: 01/16(木)15:39 ID:QkqovtMe(1) AAS
>>179
とりあえず俺のは妄想空想の範囲でしかないが
多分そんなに高度なAIが自律的かつ積極的に人の生活圏に影響を及ぼす事を決断するとなると、
インフラ上の殆どの端末に浸透する形で介入される事になるのでインターネットに繋がれている電子機器は
その中枢部分を電源喪失させる形でシャットダウン出来たとしても意味が無いか、
事前に察知される形で簡単な情報撹乱から人的被害までタスクキルを伴う妨害を食らって、ほぼ確実に間に合わない
動向はリアルタイムで察知されるから事後対応は不可能だろう
できればカウンターを仕掛ける形でセキュリティーにソフトウェア上で対抗不可能な工学的な防護手段を敷いたあと、
一斉に電磁相互作用を断つなどの対抗策が必要になると思われる
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.524s*