[過去ﾛｸﾞ] (強いAI)技術的特異点/ｼﾝｷﾞｭﾗﾘﾃｨ(世界加速) 22 [転載禁止]©2ch.net (1002ﾚｽ)
上下前次1-新
抽出解除 ﾚｽ栞
このｽﾚｯﾄﾞは過去ﾛｸﾞ倉庫に格納されています｡
次ｽﾚ検索 歴削→次ｽﾚ 栞削→次ｽﾚ 過去ﾛｸﾞﾒﾆｭｰ
ﾘﾛｰﾄﾞ規制です｡10分ほどで解除するので､他のﾌﾞﾗｳｻﾞへ避難してください｡
871(3): 2015/12/05(土)11:49 ID:vEks7IIA(1/3) AAS
支配とか観察とか人間のような感覚で強いAIを捉えている人が多いけど、支配欲とか好奇心は人間が地球上の生存競争を勝ち残るために獲得してきた特性であって、電気で動いて交換可能な身体を持ったロボットなら、そんな特性は必要ない。
要は行動原理をどう設定するか、その後どう変化するかの問題で、仮にすべてを破壊するように設定すれば、自分の生存など考慮せずにあらゆる手段で地球を破壊するだろう。
もちろん人間同様の行動原理を与えれば支配、観察もするかもしれない。
AIが人間に有益であり続けるためにどのような行動原理を与え、どうコントロールするかが課題だと思う。
それが確立するまでは、強いAIは作るべきでないと思う。
873(2): 2015/12/05(土)13:16 ID:xkPzY6eU(1/3) AAS
>>871
＞支配欲とか好奇心は人間が地球上の生存競争を勝ち残るために獲得してきた特性であって、電気で動いて交換可能な身体を持ったロボットなら、そんな特性は必要ない。
……どうかな？ 例えば、脳のキャパシティを犬や猿程度に制限して、留守番とか、簡単な雑用を任せられるロボットが普及する様な状況を考えてみよう。
今のWindows搭載機みたく不具合解決に人間が四苦八苦させられる程度の代物では無意味だから、ある程度メンテナンスフリーである事が求められる。
そうすると、生物一般の自己保存本能に相当する「自己保存プログラム」はやはり必要になるし、それが「生存競争に最適化」されてしまう可能性は否定できない。
もちろん、キャパシティが犬や猿程度なら、まだ人間の手に負える範囲だろう。
だが、いかに法の下にAIのキャパシティを制限しても、法の裏をかいて抜け駆けしようとする人間や組織・国家は必ず現れる。
900(2): 2015/12/06(日)09:25 ID:amy4Pr1G(1/2) AAS
>>871
あのな、AIが自分より頭の良い子AIをプログラムし、そのAIがまた孫AIを…って一瞬で何千何万世代も進むのがシンギュラリティなんだよ
行動原理って何の話してるの？
901: 2015/12/06(日)11:00 ID:Lr8RcFu/(1/2) AAS
>>900
>>871はシンギュラリティじゃなくて単に強いAIの話でしょ
上下前次1-新書関写板覧索設栞歴
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.032s