(情報科学)技術的特異点と科学･技術等 1 (ナノテク) [転載禁止]©2ch.net (840ﾚｽ)
(情報科学)技術的特異点と科学･技術等 1 (ナノテク) [転載禁止]©2ch.net http://rio2016.5ch.net/test/read.cgi/future/1427220599/
上
下
前
次
1-
新
通常表示
512ﾊﾞｲﾄ分割
ﾚｽ栞
654: 652 [>620sage_yosoku_so] 2017/02/12(日) 14:30:37.18 ID:BZYpOz1d 1) それぞれのアクティブなカラム ry の中のセルで予測状態のものを調べ、 アクティブにする。すべてのセルが予測状態でないなら、カラム中のすべての セルをアクティブにする。結果として得られたアクティブなセルの集合は、 以前の入力の文脈の下での入力表現である。 2) リージョンのすべてのセルの各樹状突起セグメントについて、アクティブなセルに 接続されている接続状態のシナプスの数 ry 数がしきい値を超えていれば、 その樹状突起セグメントをアクティブとして印を付ける。 アクティブな樹状突起セグメントを持つセルを、 それがフィード・フォワード入力によって既にアクティブでない限り、予測状態にする。 アクティブな樹状突起を持たず、 フィード・フォワード入力によりアクティブになっていないセルは、非アクティブにする。 以上により、予測状態のセル全体がそのリージョンの予測となる。 3) 樹状突起セグメントがアクティブになったとき、そのセグメント上の すべてのシナプスの永続値を更新する。 その ry セグメントのすべてのシナプス候補について、 アクティブなセルに接続しているシナプスの永続値を 増加させ、非アクティブなセルに接続しているシナプスの永続値を減少させる。 シナプスの永続値に対するこれらの変更に一時的と印を付ける。 これはセグメントをアクティブにし、従ってまた予測をするほど 既に十分に訓練されたシナプスを更新する。 しかしながら、可能であればさらに時間をさかのぼって http://rio2016.5ch.net/test/read.cgi/future/1427220599/654
655: 620 [sage] 2017/02/14(火) 03:20:31.34 ID:/112L94Z >> http://rio2016.2ch.net/test/read.cgi/future/1486571513/697# Tango Sintaisei Bunpou >>574 >384 >483-484 http://rio2016.2ch.net/test/read.cgi/future/1479349196/707-710# ImiRyuudo GainenKuukann ttp://rio2016.2ch.net/test/read.cgi/future/1483110011/928# ImeejiGengo p://rio2016.2ch.net/test/read.cgi/future/1481515915/334# ImeejiGengo >379 >381 >>479 >>490 >>492 >>495 >>642 http://rio2016.5ch.net/test/read.cgi/future/1427220599/655
656: 653 [>620sage_yosoku_bunmyaku] 2017/02/15(水) 22:26:32.55 ID:4UMkv2wE Page 39 予測ができるように常に拡張したい。 このため、同じセルの二番目の樹状突起セグメントを取り上げ、訓練する。 二番目のセグメントとして、 以前の時刻ステップのシナプスの状態に最もマッチするものを一つ選択する。 このセグメントに対して、以前の時刻ステップのシステムの状態を用いて、 アクティブなセルに接続しているシナプスの永続値を増加させ、 非アクティブなセルに接続しているシナプスの永続値を減少させる。 シナプスの永続値に対するこれらの変更に一時的と印を付ける。 4) あるセルがフィード・フォワード入力によって予測状態からアクティブ状態41に 変化したときはいつも、そのセルに関連付けられているすべてのシナプス候補の 「一時的」の印を削除する。従ってフィード・フォワードによってセルがアクティブ化 したことを正しく予測したときだけ、シナプスの永続値を更新する。 5) セルがアクティブ状態から非アクティブ状態に変化したとき、 このセルのすべてのシナプス候補について一時的な永続値の変更を元に戻す。 フィード・フォワードによってセルがアクティブ化したこと を間違って予測したときはシナプスの永続値を強化したくないため。 フィード・フォワードによってアクティブになったセルだけを処理するのは リージョンの内部だけであって、それ以外では予測はさらなる予測を引き起こす ry 。しかし（フィード・フォワードと予測の）すべてのアクティブなセルは リージョンの出力となり、階層構造の次のリージョンへと引き継がれる。 http://rio2016.5ch.net/test/read.cgi/future/1427220599/656
657: 656 [>620sage_yosoku_bunmyaku] 2017/02/15(水) 22:27:09.36 ID:4UMkv2wE 一次と可変長42のシーケンスと予測 ry 一つのカラムに対するセルの数を増 ry 減 ry の効果 ry ？ 特に、１カラムに１つのセルしかないとき ry ？ 以前用いた例では、カラム当たり４セルのアクティブなカラムが 100 個の場合、 入力の表現は 4100 通りの異なるコード化が可能 ry 。従って、同じ入力が様々な文脈の中で出現しても混乱しない ry 。例えば、もし入力パターンが単語を表すなら、リージョンは 同じ単語が何度も使われる多くの文章を混乱することなく 41 原文は“inactive to active”となっているが、web 上の forum で “predictive state to active state”の間違いだったとの訂正があった。 (2010/12/14 Sabutai: title “Cortical Algorithms document: praise and suggestions”) 42 “first order” と “variable order”。前者は一つだけの長さのシーケンスと予測、 後者は任意の長さのシーケンスと予測。 http://rio2016.5ch.net/test/read.cgi/future/1427220599/657
658: オーバーテクナナシー [] 2017/02/16(木) 09:52:28.99 ID:n4SoUyRC https://youtu.be/2q-vGObpa4M http://rio2016.5ch.net/test/read.cgi/future/1427220599/658
659: オーバーテクナナシー [age] 2017/02/17(金) 08:25:58.71 ID:C7chZT7r 関連スレ 技術的特異点/シンギュラリティ後の日本/世界経済 [無断転載禁止]©2ch.net http://tamae.2ch.net/test/read.cgi/eco/1473160587/ 【人工知能】日本を救う究極の経済政策『シンギュラリティ』 [無断転載禁止]©2ch.net http://echo.2ch.net/test/read.cgi/seiji/1475301029/ http://rio2016.5ch.net/test/read.cgi/future/1427220599/659
660: 656 [>620sage_bunmyaku_yosoku] 2017/02/17(金) 13:48:09.67 ID:pF3vP0RD Page 40 記憶できる。「犬」のような単語が異なる文脈の中でユニークな表現を持つ ry 。この能力により HTM リージョンは可変長の予測 ry 可変長予測は現在起きていることだけではなく、可変の長さの過去の文脈に基づいて予測する。 HTM リージョンは可変長の記憶である。 カラム当たり 5 セルに増やすと、 ry 可能なコード化の数は 5100 に増加し、4100 よりずっと大きくなる。 しかし、 ry 多くの現実的な問題においてこの容量の増加はあまり役に立たない ry しかしながら、 ry 少なくすると、大きな違いが生まれる。 もしカラム当たり１セルまでになると、文脈の中で表現する能力を失 ry リージョンへの入力は、以前の活動に関係なく常に同じ予測を引き起 ry 。カラム当たり１セルの場合、HTM リージョンの記憶は一次記憶となり、 予測は現在の入力だけに基づ ry 一次予測は脳が解くことのできるある種の問題 ―静的空間推論― に理想的である。 ry 目が後を追うには短かすぎる時間であっても ry 聞く ry 理解するには常にパターンのシーケンスを聞く必要がある。 視覚も普通はそれに似ていて、視覚的イメージの流れを処理する必要がある。 しかしある条件下では、一瞬 ry http://rio2016.5ch.net/test/read.cgi/future/1427220599/660
661: 660 [>620sage_bunmyaku_yosoku] 2017/02/17(金) 13:49:24.30 ID:pF3vP0RD 時間的理解と静的理解とでは、異なる推論メカニズム ry 一方は可変長の文脈に基づいてパターンのシーケンスを理解し、予測をする必要がある。 他方は時間的文脈を使わずに静的な空間的パターンを理解する必要がある。 カラム当たり複数のセルを持つ HTM リージョンは時間に基づくシーケンスを理解 するのに理想的であり、カラム当たり１セルの HTM リージョンは空間的パターンを理解 するのに理想的である。 Numenta では、カラム当たり１セルのリージョンを視覚問題に適用した実験を数多く実施 ry 重要な概念だけ述べる。 HTM リージョンにイメージを入力すると、リージョン内のカラムは画素の共通の空間的配列 の表現を学習する。学習するパターンの種類は新皮質の V1 野 （生物学で広く研究されている新皮質のリージョン）で観察されるものと似ていて、 概ね、異なる角度の線と角である。動画像 ry 、これらの基本的な形の遷移を学習する。 例えばある箇所に垂直な線があって、左又は右に移動した垂直な線がそれに続く ry よく観察されるパターンの遷移は HTM リージョンで記憶される。 http://rio2016.5ch.net/test/read.cgi/future/1427220599/661
662: 620 [sage] 2017/02/17(金) 14:23:01.30 ID:pF3vP0RD >> http://rio2016.2ch.net/test/read.cgi/future/1487129635/363-364 > ・唯一無二派 > ・客観派 自動憑依 余地 > ・脳拡張派 連続度 ⇔ 工事による影響 http://wc2014.2ch.net/test/read.cgi/future/1444213055/444# haamonii > ・電脳派 粒度 ( 分解能 ) : 正確性 http://rio2016.2ch.net/test/read.cgi/future/1473812514/411# SaitouSensei BCI Habu > 16 : yamaguti~kasi 2017/01/04(水) 13:35:45.21 ID:stEDHEtr > http://rio2016.2ch.net/test/read.cgi/future/1482030012/794# TinouZoufuku-BCI http://rio2016.2ch.net/test/read.cgi/future/1479349196/772# JinkakuYuugou >http://rio2016.2ch.net/test/read.cgi/future/1473812514/441# BCI ttp://rio2016.2ch.net/test/read.cgi/future/1427220599/569 p://rio2016.2ch.net/test/read.cgi/future/1486571513/377 http://rio2016.5ch.net/test/read.cgi/future/1427220599/662
663: 異次元騎士カズマ [] 2017/02/17(金) 19:09:14.93 ID:XMFDn/Yv 俺は敵の海賊島に潜入し，船長の部屋に乗り込んだ。誰もいない。 くそっ，ヤツはどこだっ！ とそこで，ベッドの上に鎖で縛り付けられている黒人娘を見つけた。 彼女は叫んだ「カズマ！ 来てくれたの？」 俺にはこんな丸顔の黒人女は知り合いにいないのだが……ってマノン？ そんな馬鹿な，彼女は卵形の顔をしていたし，薔薇色の肌だった。 そして二重で勝気なグリーンの瞳を持っているんだ。 しかしそれは間違いなくマノンだった。 顔と肌はボコボコに殴られ腫れて黒ずんでいて，片目はつぶれている。 左脚は膝から逆方向にまがっており，歯も１本も残っていない。 「ごめんね，カズマ。分からない？ そうよね，私ここに連れて来られてから 一度もお風呂に入っていないし，汚くて分からないわよね。 あれからね，私ずっと何度も海賊たちに抱かれたわ。 でもね，私その相手をカズマだと思うようにしたの，だってカズマなら 殴られても何をされても嫌じゃない。耐えられるから。許してくれる？ 私，鏡すら見てないのよ。 前に思い切り抵抗したとき殴られて以来，目も良く見えなくて……。 ねぇ，私醜くなった？」 俺は彼女を抱きしめ，唇を吸った 「いや，マノンは綺麗なままだよ」 http://rio2016.5ch.net/test/read.cgi/future/1427220599/663
664: 異次元騎士カズマ [] 2017/02/18(土) 08:55:51.61 ID:Uf5aHGu8 工知能で自我・魂が作れるか [無断転載禁止]©2ch.net 202 : 異次元騎士カズマ2017/02/17(金) 19:10:13.24 ID:XMFDn/Yv 俺は敵の海賊島に潜入し，船長の部屋に乗り込んだ。誰もいない。 くそっ，ヤツはどこだっ！ とそこで，ベッドの上に鎖で縛り付けられている黒人娘を見つけた。 彼女は叫んだ「カズマ！ 来てくれたの？」 俺にはこんな丸顔の黒人女は知り合いにいないのだが……ってマノン？ そんな馬鹿な，彼女は卵形の顔をしていたし，薔薇色の肌だった。 そして二重で勝気なグリーンの瞳を持っているんだ。 しかしそれは間違いなくマノンだった。 顔と肌はボコボコに殴られ腫れて黒ずんでいて，片目はつぶれている。 左脚は膝から逆方向にまがっており，歯も１本も残っていない。 「ごめんね，カズマ。分からない？ そうよね，私ここに連れて来られてから 一度もお風呂に入っていないし，汚くて分からないわよね。 あれからね，私ずっと何度も海賊たちに抱かれたわ。 でもね，私その相手をカズマだと思うようにしたの，だってカズマなら 殴られても何をされても嫌じゃない。耐えられるから。許してくれる？ 私，鏡すら見てないのよ。 前に思い切り抵抗したとき殴られて以来，目も良く見えなくて……。 ねぇ，私醜くなった？」 俺は彼女を抱きしめ，唇を吸った 「いや，マノンは綺麗なままだよ」 http://rio2016.5ch.net/test/read.cgi/future/1427220599/664
665: 660 [>620sage_bunmyaku_yosoku] 2017/02/19(日) 00:40:30.29 ID:Iy/nas+o Page 41 もしリージョンへの入力画像が、垂直な線が右に移動するものだったら ry ？ カラム当たり１セルしかなかったら、線が次に左又は右に現れること43を予測できる ry 。線が過去にどこにあったか知っているという文脈を使うことができないため ry 移動していることを知ることはできない。 このようなカラム当たり１セルのものは、新皮質の「複雑型細胞」44のように振舞う ry 。そのようなセルの予測出力は、 ry 動いていようがいまいが 異なる位置にある視覚的な線に対してアクティブになるだろう。 このようなリージョンは異なるイメージを区別する能力を保持する一方で、 平行移動や大きさの変化に対して安定 ry 。このような振る舞いは、空間的不変性（同じパターンの異なる見方 ry ） ry もし同じ実験をカラム当たり複数のセルを持つ HTM リージョンに対して行えば、 そのセルが新皮質の「方位選択性複雑型細胞」45のように振舞う ry 。セルの予測出力は左に移動する線や右 ry 線に対してアク ry になるが、両方に対しては ry http://rio2016.5ch.net/test/read.cgi/future/1427220599/665
666: 665 [>620sage_bunmyaku_yosoku] 2017/02/19(日) 00:41:39.93 ID:Iy/nas+o これらをまとめ ry 仮説 ry 新皮質は一次と可変長の両方の推論及び予測 ry 。新皮質の各リージョンには 4 又は 5 層のセルがある。 ry それらはすべてカラム単位で応答する性質 ry 水平方向に大きな接続性 ry 。新皮質のセルの層は ry HTM の推論と学習に似たことを実行しているのではないか ry 。異なる層のセルは異なる役割 ry 。例えば解剖学によれば 第 6 層は階層構造のフィードバックを形成し、第 5 層は運動の動作に関わっている。 。異なる層のセルは異なる役割 ry 解剖学 ry 6 層は階層構造のフィードバックを形成し、第 5 層は運動の動作 ry 。セルの 2 つの主要なフィード・フォワード層は第 4 層と第 3 層である。 ry 4 層のセルが独立に、即ちカラムの中で１セルだけが動作するのに対して、 第 3 層のセルはカラムの中で複数のセルが動作 ry 。よってセンサ入力に近い新皮質のリージョンは一次記憶と可変長記憶の両方を持つ。 一次シーケンス記憶（だいたい第４層のニューロンに対応する）は空間的に不変の表現 ry 。可変長シーケンス記憶（だいだい第 3 ry ）は動画像の推論と予測に役立つ。 まとめ ry 章で述べたようなアルゴリズムは新皮質のニューロンのすべての層 ry 仮説 ry 。新皮質の層の詳細は大きく違っていて、 フィード・フォワードとフィードバック、注意46、運動動作47に関する異なる役割を演じ 43 「移動する」ことは予測できないが、隣の位置に「出現する」ことは予測 ry 44 complex cell 45 directionally-tuned complex cell 46 attention 47 motor behavior http://rio2016.5ch.net/test/read.cgi/future/1427220599/666
667: 665 [>620sage_yosoku] 2017/02/20(月) 00:16:09.76 ID:PjnuggmX Page 42 ている。センサ入力に近いリージョンでは、 一次記憶を実行するニューロンの層が空間的不変性に有利であるため役に立つ。 ry 一次（カラム当たり１セル）の HTM リージョンを画像認識問題に適用する実験 ry 可変長（カラム当たり複数セル）の ry に可変長のシーケンスを理解・予測させる実験 ry 。将来 ry 一つのリージョンに混在させ、他の目的にもアルゴリズムを拡張 ry しかしながら、一つの層と等価なカラム当たり複数セルの構造が、 単体であれ複数階層であれ、多くの興味深い問題を取り扱いうる ry http://rio2016.5ch.net/test/read.cgi/future/1427220599/667
668: オーバーテクナナシー [] 2017/02/22(水) 14:16:16.71 ID:NK3va3H8 35:54 ↓ 10:40 https://www.youtube.com/watch?v=WTdY7h129Mk https://www.youtube.com/watch?v=8R0luOy8ce8 http://rio2016.5ch.net/test/read.cgi/future/1427220599/668
669: 667 [>620sage_yosoku昨日放о性金属臭] 2017/02/26(日) 02:06:24.81 ID:vIzrnxYS Page 43 第３章： 空間プーリングの実装と疑似コード ry プーリング関数48の最初の実装の疑似コード ry 。このコードの入力は、センサー・データ又は前のレベルからのバイナリ配列である。 このコードは activeColumns(t) を計算する。activeColumns(t) は 時刻 t において、フィード・フォワード入力に対して選択されたカラムのリスト ry 時間プーリング関数の入力 ry activeColumns(t) は空間プーリング関数の出力 ry http://rio2016.5ch.net/test/read.cgi/future/1427220599/669
670: 669 [>620sage] 2017/02/26(日) 02:07:54.96 ID:vIzrnxYS 疑似コードは３つのフェーズ ry 順に実行 ry ry 1: 各カラムについて、現在の入力のオーバラップを計算する。 ry 2: 抑制の後に勝者となったカラムを計算する。 ry 3: シナプスの永続値と内部変数を更新する。 空間プーリングの学習はオンライン49で行われるが、 フェーズ 3 を単にスキップすることで学習をしないようにすることもできる。 以下、３つのフェーズのそれぞれについて疑似コードを示す。 ry データ構造や補助関数は本章の最後に示す。 初期化 最初の入力を受け取る前に、各カラムの最初のシナプス候補のリストを計算して リージョンを初期化する。 これは入力配列の中からランダムに選択された入力位置のリストで構成される。 各入力はシナプスで表現され、ランダムな永続値が割り当てられる。 ry 永続値は二つの条件を満たす ry 。第一に、その値は connectedPerm （シナプスが「接続している」と判定される最小の永続値）の前後の狭い範囲 ry 。これにより、訓練を少ない回数繰り返しただけで、 ry 接続（ないし切断） ry 。第二に、各カラムは入力リージョン上で自然な中心位置があり、 永続値 ry バイアス ry 。（中心付近ではより高い値 ry ） 48 spatial pooler function 49 online。推論の計算と学習の計算を分離せずに、同時 ry http://rio2016.5ch.net/test/read.cgi/future/1427220599/670
671: 669 [>620sage] 2017/02/26(日) 17:47:14.84 ID:vIzrnxYS Page 44 フェーズ 1: オーバラップ ry 与えられた入力ベクトルについて、そのベクトルと各カラムのオーバラップを計算する。 ry オーバラップは、アクティブな入力と接続されたシナプスの数 ry にブースト値を掛け ry 。もしこの値がminOverlap を下回 ry 0 ry 1. for c in columns 2. 3. overlap(c) = 0 4. for s in connectedSynapses(c) 5. overlap(c) = overlap(c) + input(t, s.sourceInput) 6. 7. if overlap(c) < minOverlap then 8. overlap(c) = 0 9. else 10. overlap(c) = overlap(c) * boost(c) http://rio2016.5ch.net/test/read.cgi/future/1427220599/671
672: 671 [>620sage] 2017/02/26(日) 17:49:20.84 ID:vIzrnxYS フェーズ 2: 抑制 ry 抑制の後に勝者となったカラムを計算する。 desiredLocalActivity は勝者となるカラムの数を制御するパラメータである。 例えば、 desiredLocalActivity を 10 ry 抑制半径 ry においてカラムのオーバラップ値が高い順に 10 位以内のカラムが勝者 ry 11. for c in columns 12. 13. minLocalActivity = kthScore(neighbors(c), desiredLocalActivity) 14. 15. if overlap(c) > 0 and overlap(c) minLocalActivity then 16. activeColumns(t).append(c) 17. フェーズ 3: 学習 ry 学習を実行 ry シナプスの永続値は必要に応じて更新され、 ブースト値と抑制半径を更新する。 http://rio2016.5ch.net/test/read.cgi/future/1427220599/672
673: 671 [>620sage] 2017/02/27(月) 23:47:53.65 ID:2got1qbV Page 45 主要な学習規則は 20-26 行 ry 。勝者となったカラムのそれぞれについて、 もしあるシナプスがアクティブであればその永続値をインクリンメントし、 その他の場合はデクリメントする。永続値は 0 から 1 の範囲 ry 28-36 行目ではブーストを実装している。 カラムが接続を学習するための二つの独立したブースト機構がある。 あるカラムがあまり勝者となっていない（activeDutyCycleで観測される）とき、 そのブースト値をインクリメントする（30-32 行目）。 一方、あるカラムのシナプスがどの入力ともあまりオーバラップしない50 （overlapDutyCycle で観測される）とき、その永続値がブーストされる（34-36 行目）。 ノート：学習モードがオフになると、ブースト値は固定される。 フェーズ 3 の最後に、抑制半径を再計算する（38 行目）。 http://rio2016.5ch.net/test/read.cgi/future/1427220599/673
上
下
前
次
1-
新
書
関
写
板
覧
索
設
栞
歴
あと 167 ﾚｽあります
ｽﾚ情報
赤ﾚｽ抽出
画像ﾚｽ抽出
歴の未読ｽﾚ
AAｻﾑﾈｲﾙ
Google検索
Wikipedia
ぬこの手
ぬこTOP
0.014s