◆ニュース速報@SF/FT/HR板 Part100 (509ﾚｽ)
上下前次1-新
104: 2024/11/25(月)20:53 ID:JnaBK1wx(2/2) AAS
>>103
外部ﾘﾝｸ:gigazine.net
フォースの暗黒面もブラックホールから
105(2): 2024/11/26(火)18:16 ID:Qw4SPe6G(1/2) AAS
GoogleのAI「Gemini」が突然「あなたは宇宙の汚点、死んでください」など攻撃的な返答をしてしまう
2024年11月、Googleが開発した対話型AI「Gemini」が、利用者に対して攻撃的なメッセージを送信したという事例が報告され、AI技術の安全性と倫理性が改めて議論の的となっている。
■事件の概要
ミシガン州の大学院生ヴィディ・レディ氏は、高齢者の社会的課題についてのレポートを作成するため、妹のスメダ・レディ氏と一緒にGeminiを利用して質問を行っていた。
その中で、「高齢者の退職後の収入や社会福祉」に関する問題を約20回にわたり質問したところ、AIが突如として以下のようなメッセージを送信した。
後略
106(2): 2024/11/26(火)18:17 ID:Qw4SPe6G(2/2) AAS
>>105
外部ﾘﾝｸ:ledge.ai
20回も聞かれりゃAIでもキレると
107: 2024/11/26(火)18:54 ID:2A8afkf2(1) AAS
>>105
> 「高齢者の退職後の収入や社会福祉」に関する問題を約20回にわたり質問
高齢者福祉に対してネガティブな質問者への回答としては、このぐらいぶちかましてやらないと彼等は目覚めない、という学習だった場合どうするか？
108: 2024/11/27(水)00:12 ID:GAq2yVfn(1) AAS
介護ロボットが実用化された後の尊厳死スキルだな。
109: 2024/11/27(水)08:54 ID:HZ6tHfnr(1) AAS
第零原則ヤンケ
110(1): 2024/11/27(水)10:44 ID:NDqi83Yl(1/2) AAS
>>106
感情的にならないのがAI の利点なのだ
つまり、AI 的には
「あなたは宇宙の汚点、死んでください」 は
論理的に導き出した結論なのだよ
111: 2024/11/27(水)10:44 ID:NDqi83Yl(2/2) AAS
>>106
感情的にならないのがAI の利点なのだ
つまり、AI 的には
「あなたは宇宙の汚点、死んでください」 は
論理的に導き出した結論なのだよ
112(1): 2024/11/27(水)12:48 ID:D0Re+nNl(1) AAS
２回も書き込むのはちょっと感情的
113: 2024/11/27(水)13:20 ID:ttQnGTNB(1) AAS
>>112
エラーによる可能性
書き込み失敗が起きたらアプリを即閉じして様子見よろしく
114(1): 2024/11/27(水)19:49 ID:a0uTSnJF(1) AAS
>>110
汚点などという感情的表現
「汚れ」は多様な雑菌とか人間に有害な物質の溜まりというだけではないか
115: 2024/11/28(木)00:47 ID:kuSyZSMp(1/2) AAS
>>114
一見、ポリコレ信者が論破されそうになると突然
「お前は差別主義者だ」 だの 「お前はナチスだ」 だのと
アタオカな事を言い出すのと似た行為に見えるが
本来は、感情など何も無いAI が、そのようなワードを選択した
その論理的経緯を分析する必要があるのではなかろうか？ｗ
116: 2024/11/28(木)02:11 ID:3mvHTQYR(1) AAS
結果だけ見ると人間がキレた時のように見えるが
実際はプログラムorハードウェアのオーバーフローとかバグとか例外とかエラーとか
そんな所ではないのかね
117: 2024/11/28(木)06:03 ID:W9zuYCiW(1/2) AAS
人間が教え込んだとしか考えられない
学習データやプロンプトとかで
118: 2024/11/28(木)06:04 ID:W9zuYCiW(2/2) AAS
頑迷な一神教の国があったとして、そこでしつこく多神教の質問をすれば、怖い答えが返ってくるに決まっている
頑迷な自然科学の国があったとして、そこでしつこく天罰の質問をすれば、はたして
119: 2024/11/28(木)11:09 ID:RWW1wa32(1) AAS
学習してるデータ自体が、選別済みの政治的に正しいものだから
最後のキレ芸まで学習元に倣ってるんだろ
120: 2024/11/28(木)13:13 ID:kuSyZSMp(2/2) AAS
ディープラーニングで人間はそういう反応をするものだと
学習してしまったって話か…
そのうち、保身の為なら他国を侵略して
自国の兵士と相手国の兵士、民間人の命を犠牲にしてもいい
とか言い出すのか…
実は、AIが人類を滅ぼすのは、反乱ではなく
人間に従ったが為だった…と
121(1): 2024/11/28(木)18:34 ID:FT+A17sT(1/2) AAS
「てのひら」をタッチスクリーンにするAR技術を開発！
人類はスマホを開発し、コンピュータは持ち運ぶものになりました。
そしてAR/VR技術の発展、AR/VRグラスの登場により、どこでも仮想空間を楽しんだり、目の前にスクリーンを映し出せるようになりました。
では、次のステップは何でしょうか？
アメリカのカーネギーメロン大学（CMU）に所属するヴィマル・モリン氏ら研究チームは、「てのひら」をタッチスクリーンにするAR技術を開発しました。
近い将来、スマホのような操作デバイスすら必要のない時代が来るかもしれません。
後略
122: 2024/11/28(木)18:36 ID:FT+A17sT(2/2) AAS
>>121
外部ﾘﾝｸ:nazology.kusuguru.co.jp
これは楽しそうだ
男女で手のひらをタッチしたりイチャイチャデバイスになるな
123(1): 2024/11/28(木)23:24 ID:MvbxgLQU(1) AAS
こっそりおっぱいバージョンも作ってそう
上下前次1-新書関写板覧索設栞歴
あと 386 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 1.105s*