(情報科学)技術的特異点と科学･技術等 1 (ナノテク) [転載禁止]©2ch.net (840ﾚｽ)
上下前次1-新
575(2): yamaguti~貸 2016/12/02(金)18:43 ID:HgThED5J(1/2) AAS
>> 2chｽﾚ:future
>>539-
第14回全脳アーキテクチャ勉強会 「深層学習を越える新皮質計算モデル」報告レポート
３．大脳新皮質のマスターアルゴリズムの候補としてのHierarchical Temporal Memory (HTM)理論 (NPO法人 あいんしゅたいん 松田卓也氏)
外部ﾘﾝｸ:wba-initiative.org
> コネクトームと新皮質内の情報の流れ
> ry 大きく分けて領野間 ry マクロ・コネクトームと、 ry ニューロン間のシナプス結合を表すミク ry
> 新皮質は6層 ry 、階層内(横方向)はミクロ・コネクトームによる密結合であり、主に時間系列 ry
> 。階層間(縦方向)はマクロ・ ry 疎結合であり、主に静的パターンを処理する。
> 最下層では知覚の入力および筋肉への出力が行われ、最上層は意識あるいは論理的思考を司る。
省13
576(1): 575 2016/12/02(金)18:45 ID:HgThED5J(2/2) AAS
> HTM理論の解説
>
> ry 発展に伴い実装 ry 。Numentaの資料により初代のゼータ1 から CLA, Gen3, そして将来の Gen4 ry
> 。以下では ゼータ1, CLA, Gen3 ry
> ゼータ1 ry 、教師なし学習、木構造の階層構造、上の階層ほど空間的・時間的に不変性 ry
> 、バッチ学習、学習と推論フェーズの分離 ry
> 。学習は階層ごとに行われ、階層を上がるに従い空間プーリングと時間プーリングによ ry 不変性 ry
> 。下層から上層へのFFだけでなく、上層から下層へのFBも実装されている。
> Vicarious ではゼータ1を発展させた Recursive Cortical Network 理論が実装 ry CAPTCHA を破る ry
>
省15
577(1): 575 2016/12/03(土)12:21 ID:97cte86A(1) AAS
>>575-576
外部ﾘﾝｸ[pdf]:webcache.googleusercontent.com
578(6): 570 2016/12/04(日)17:39 ID:VL9xSNhJ(1/2) AAS
Page 21
分だけをマッチングするだけでほぼ確実にマッチ ry
予測
HTM の各リージョンはパターンのシーケンスを格納する。 ry
現在の入力とマッチングすることで、次に到着すると思われる入力の予測をする。
ry 実際には疎分散表現の間の変遷を記録する。
あるときはその変遷はメロディの中の音に見られるように線形のシーケンスであるが、
一般的な場合は将来入力される可能性があるものが同時に多数予測される。
HTM リージョンはときには長期間に及ぶ過去の文脈に基づいて異なる予測をする。ry 。
HTM の予測の鍵 ry
省7
579(3): 578 2016/12/04(日)17:40 ID:VL9xSNhJ(2/2) AAS
3) 予測は文脈依存 ry
予測は過去に何が起こったか、そして現在何が起こっているかに基づいて行われる。
従って直前の文脈に基づいて、ある入力から異なった予測が行われることがある。
HTM リージョンは必要なだけのより多くの直前の文脈を用いて学習し、
短時間ないし長時間の両方の文脈を保持 ry 可変長記憶18 ry
例えば、暗唱 ry ゲティスバーグ演説19 ry 。次の単語を予
18 variable order memory
19 Gettysburg Address。「人民の人民による人民のための政治」のフレーズが有名。
”Four score and seven years ago our fathers brought forth on this continent, a new nation,
conceived in Liberty, and dedicated to the proposition that all men are created equal...” (以下略)
580: yamaguti~貸 2016/12/05(月)18:56 ID:s5+vq0Ta(1/2) AAS
第五世代コンピュータ計画 = 大成功
↓↑
Prolog ソリューション = 言わばワトоン型
2chｽﾚ:future Dai5sedai
2chｽﾚ:future SuityokuTougou
外部ﾘﾝｸ:google.jp
Report By 関 亜希子（ライター）
外部ﾘﾝｸ[html]:blog.livedoor.jp
> 日本発の新しいコンセプトに基づいた第５世代コンピュータ ry 僕も初期段階では参加 ry
> 。第５世代コンピュータは高性能な並列処理のロジックマシンで、
省1
581(2): YAMAGUTIseisei~貸し 2016/12/05(月)20:47 ID:s5+vq0Ta(2/2) AAS
>>2chｽﾚ:future
> 59 : yamaguti~kasi 2016/12/05(月) 20:14:39.07 ID:s5+vq0Ta
> 専門分野違いながら
>
> 強い AI 理論 : HTM ( 予測 テンポラル系時間管理 )
> ｜
> ｜ 入力応用 ? ( 一層切出し 多層化 ? )
> ↓
> 弱い AI 実装 : DeepLearning ( 外部タスク 内部ビュー 等 → 自己改良用分割余地 )
> ｜
省8
582(7): yamaguti~貸 2016/12/07(水)01:03 ID:i949cOw9(1) AAS
>207 : yamaguti~kasi 2016/12/07(水) 00:40:01.72 ID:i949cOw9
> >>航空機 戦艦
> >899 : YAMAGUTIseisei 2016/11/04(金) 21:09:51.02 ID:O8dhrfC/
>> 32 bit 版 ARM の肝はそこではない
> >>航空機へのゲームチェンジに耐える非戦艦型スパコン設計
>
> >740 : yamaguti~kasi 2016/12/03(土) 22:40:41.28 ID:97cte86A
>> >>600
>>> 将来には脳の全てをエミュレーションできるAIの開発も研究
> >最初からоみ ( 現状版 64bitARM 不о合 )
省10
583(1): YAMAGUTIseisei~貸し 2016/12/08(木)01:22 ID:03i1lYGF(1/2) AAS
do?omo 1996 年頃 Web アンケート ( 携帯電話 拡張案 )
→ メディア化案 投稿 ( アイデア料に付いて付記 具体例 SYSTEM2 音源エミュ )
NetScapeNavigator キャッシュのバックアップが残っている筈
584(4): yamaguti~貸 2016/12/08(木)23:59 ID:03i1lYGF(2/2) AAS
>>2chｽﾚ:future
ポストヒューマン = 単に AI 装備 ?
>713 : YAMAGUTIseisei 2016/11/02(水) 18:56:57.88 ID:2rq/lQF2
> ※ 但し AI とはまともには融合できない ⇔ 融合可 → AL ( かネイティブモーフィック NSPU )
> 2chｽﾚ:future YuugouFukanou
※ 但し Fixstars : Cell 蓄積 → 航空機スパコン 射程 ?
2chｽﾚ:future koukuuki
外部ﾘﾝｸ:google.jp
外部ﾘﾝｸ:google.jp
外部ﾘﾝｸ:google.jp
省2
585: yamaguti~貸 2016/12/09(金)00:42 ID:wBrO3y0J(1) AAS
>>582-584
>>379
586(1): yamaguti~貸 2016/12/10(土)01:58 ID:O8le5YJ4(1/4) AAS
外部ﾘﾝｸ[htm]:www.sankeibiz.jp
> ーニングの顔ニューロンが表現する内容は静的ですが、脳の顔ニューロンは非線形のダイナミクス ry
> 。猿の脳 ry 、顔ニューロンが、刺激の後しばらくは人と猿を区別するみたいな大まかな分類をやり、
> もう少し時間が経つと、より詳細な個を区別したり、表情を区別したりしだすのです。
> つまり時間とともに表現する内容が変わっていく。
> このダイナミクスが脳の本質で、それがない人工ニューラルネットワークは脳とは全然違うものなのです。
>>562 >>564 >>578
外部ﾘﾝｸ[pdf]:webcache.googleusercontent.com
2
> 理論が大事 ry 。やってみたら出来ました、結果が出ましたという研究が多い。
省9
587(1): 586 2016/12/10(土)01:59 ID:O8le5YJ4(2/4) AAS
外部ﾘﾝｸ[htm]:www.sankeibiz.jp
> 「ディープラーニングを使って、動的なものすなわち時空間のダイナミクスを扱おうとすると、
> これまで失敗してきたことの繰り返しになると思います。
> ニューラルネットワークを使って、時空間のダイナミクスを扱う研究は何十年もされてきてはいますが、 ry
> 。むしろ、そういった時空間情報を扱う手法は、既に数学的に ry 。ディープラーニングは要素技術としては
>>555 >>564 >>567-568
#32#36#40#48
>>581
4
> 大脳皮質は、視覚も聴覚も触覚の部分も基本的に同じ六層構造で、構造自体に汎用性があります。
省2
588(1): 587 2016/12/10(土)02:00 ID:O8le5YJ4(3/4) AAS
4
> 人工知能が語られる時、ほとんどの場合はソフトウェア ry
> 、ハードウェアのことが触れられることは極めて少ない。
> 「あと、ハードウェアの研究をやらないと革新的なものは作れない ry
> 。日本は伝統的にニューロンのハードウェア化の分野で世界をリード ry
> 。今ではニューロモーフィック
>>555
> HTM ネットワークは ry 、階層構造、時間と疎分散表現（ ry ）の主要機能を包含する限り、
> 我々は汎用的なコンピュータを使ってモデル化することができる。
> 我々はいずれ、HTM ネットワークに特化したハートウェアを作ることになる ry
省9
589: 588 2016/12/10(土)23:38 ID:O8le5YJ4(4/4) AAS
>>588
>720 : YAMAGUTIseisei 2016/11/08(火) 19:12:02.03 ID:TGuKiqAY
> 外部ﾘﾝｸ:google.jp
> 2chｽﾚ:future
590(3): 578 2016/12/11(日)19:26 ID:MuR51IGq(1) AAS
Page 22
測するには、現在の単語だけでは全く不十分 ry ”and” の次に
“seven” が来ることもあれば、 ry 。ときにはほんの少しの文脈で予測 ry
“four score and” と分かれば次の “seven”を予測できる。
他の場合はフレーズが繰り返される場合 ry 、より長い文脈を使う必要がある。
4) 予測は安定化に ry
あるリージョンの出力はその予測である。
HTM の特徴の一つは、リージョンからの出力はより安定 ry
。安定とはつまり、階層構造の上位に行くほどよりゆっくりと変化し、長く継続 ry
。リージョンは ry 可能なときは時間軸の複数ステップ先 ry 5 ステップ先 ry
省14
591(2): yamaguti~貸 2016/12/13(火)00:25 ID:6R7yQBQ0(1) AAS
AA省
592(2): 590 2016/12/14(水)01:08 ID:DKLgam/3(1/2) AAS
Page 23
行動20
我々の行動は我々が感じることに影響を及ぼす。
目を動かすに従って、網膜は変化する入力を受け取る。
手や指を動かせば、触った感触が変化する様子が脳に届く。
我々の ry 動作は、我々が感じることを変化させる。
センサ入力と筋肉運動は緊密に絡み合っている。
数十年来の主要な見方では、
新皮質の単一のリージョンである第 1 運動野が、新皮質内で運動を指令 ry
その後、新皮質内のほとんどないしすべてのリージョンは、
省11
593: yamaguti~貸 2016/12/14(水)23:41 ID:DKLgam/3(2/2) AAS
粗粒度 : 関数等 ( 評価関数 ⇔ 特徴量 )
細粒度 : ニューロン ( モーフィック型ニューロン : 自律傾向増 )
594: 古屋遥人 2016/12/15(木)14:32 ID:doGlKNHI(1/2) AAS
俺の名前は古屋遥人。
職業はミュージシャン。
画像ﾘﾝｸ[jpeg]:i.imgur.com
東京都港区出身・在住。
画像ﾘﾝｸ[jpg]:i.imgur.com
祖父は海軍大佐の古屋豪太。
画像ﾘﾝｸ[jpg]:i.imgur.com
趣味は読書。
画像ﾘﾝｸ[jpg]:i.imgur.com
特技はゲーム。
省4
上下前次1-新書関写板覧索設栞歴
あと 246 ﾚｽあります
ｽﾚ情報 赤ﾚｽ抽出 画像ﾚｽ抽出 歴の未読ｽﾚ AAｻﾑﾈｲﾙ
ぬこの手 ぬこTOP 0.024s