西山圭太・松尾豊・小林慶一郎 共著 日本評論社』
・一方では、そもそも我々人間自身も生活から産業活動にいたるまでの諸々の学習効率化のために、計算(思考)の中間過程にて認知や言語そのものを経験的に活かしており ─ これつまり脳における思考の階層化を活かしており、この深みは人間自身が先天的に有する知識情報の活用効率化手段(いわゆる「プライア」)の主だったひとつといえる。
そして、初期のディープラーニングのアークテクチャの着想は人間の脳構造をヒントのひとつとして興ってもいる。
なかなかすごいタイトルだ！
知性うんぬんもさることながら、とくに副題における「世界’の’見方」の助詞の「の」がどうにも幻惑的である。
それはともかくとしても、じっさいのところ、本書は読み進めて行く上で大意総論を拾い難いものである。
そもそも本書にては主題や執筆動機が冒頭にほとんど明示されていない。
たとえば、僕なりに最初に読みかけた第１部は人工知能とディープラーニングを連環させた巨視的な技術論評の体裁ではあるものの、（数学やITになぞらえて皮肉的に指摘すれば）動詞の名詞化／関数化に則った表現が多いため文脈をやや捉え難く、その一方で相応のアブストラクトや図案は控え目に留められている。
このため、せっかくの論理性高い文面もまた抽象度の高い文脈展開もやや追随し難いのが惜しい。
それでも、その第１部を僕なりに何とか読み抜いたからこそ傲慢承知で言いたい； 本書の重要な主題の一つは『知識の外部化と自律化』というところではないだろうか。
ともかくもその第１部について、僕なりに把握した範囲で此度の【読書メモ】として概括してみた。
・ニューラルネットワークは「多くかつ深く多段階層化された各計算処理レイヤ」から成り、ここにたとえば最小二乗法から成るはずの高次の非線形関数と初期データ（いわゆる教師データ）を入力すると、この多段階層レイヤを通して段階的に微分や勾配計算続けて正否判定計算を続ける。
この多段階層における計算過程では候補パラメータが膨大に現れうるが、これらから最適パラメータを段階的に「ディープに」絞り込んで、誤差が最小となるはずの直線的関数とそこでの最適パラメータを導き出す膨大な計算処理が「ラーニング＝学習」にあたる。
※ なお本書内には、たとえば入力データに対する特徴量「重み付け」や「畳み込み」などなどの「強化学習」の技法例はとくに明示はされていないが、これらにやや踏み込んだ実践例については別書籍にあるものを僕なりに以下サイトにて補完しおく。
↓【読書メモ】人工知能はいかにして強くなるのか
・ディープラーニングでは学習の中間途上にて表れるさまざまな関数自体も「さまざまな特徴量の暫定算出」を為しており、よって学習の効率化に活かしていることになる。
したがって、この階層化に深みがあればあるほど総じて学習は効率的なものとなりうる。この学習によって最適パラメータがひとたび決まってしまえば、同じ条件関数式の入力に対するパラメータ最適化の「推論」アルゴリズムが実現したことになり、この推論計算は瞬時にかつネットワークのエンドツーエンドで実行しうる。
・なるほど、この多層段階での学習にてはパラメータ量の膨大さや入力データのランダムさすら受け入れてしまうので、通常の情報処理システムから鑑みれば正しい計算に対する汎化機能はむしろ落ちてしまう ─ とも考えられるのだが、じっさいにはトータルな汎化機能はむしろ向上している。
なぜディープラーニングによる汎化機能が高いのかについては、現在まで議論が続いている。
そして、初期のディープラーニングのアークテクチャの着想は人間の脳構造をヒントのひとつとして興ってもいる。
・しかしながら、現在のディープラーニングのアークテクチャは数理的にも工学的にも、むしろ人間の脳構造から乖離した方向に、しかも垂直深化の階層化のみならず機能別のブロック化と組み合わせの実現に向けて開発が進められている。
学習計算を最適化するための数学理論もネットワークアークテクチャーも未だ定義されてはいない。
・新たな技術開発のひとつとして、ディープのみならず「深層’強化’学習」もあり、これは例えば画像認識や囲碁対戦などの学習途中にて計算すべきさまざまな特徴量データを何らかの「状態表現」と見なし、それぞれの状態表現に応じて最適な方策の関数や価値付けの関数を充てつつ最適な計算を為すように学習させるもの。
・こういう「強化学習」の実現にあたっては、人間ほか生命における情報知覚⇔運動の再帰型のニューラルネットワーク（いわゆる身体性）と同様の機構として、さまざまな「環境」情報とのインタラクションに応じて最適に動く計算機構（エージェント）をネットワーク～人工知能において設置必要。
このためには、環境世界そのものをニューラルネットワーク～人工知能においてモデル化進めることも併せて必須である。
・しかし環境情報との再起型ニューラルネットワーク充足のみでは、人工知能は人間と同等に複雑高度な知性を有したことにはならず、強化学習も動物レベルに留まっている。
人間の知性の重大な特性として「記号（言葉）」も挙げるべきであり、人工知能の学習知性をここまで引き上げるためには、「記号活用まで含め合わせた」再起型ニューラルネットワークの開発とアプリケーション実装がこんご求められる。
（なお現在の人工知能による翻訳機能はむしろ記号処理のみであり、これでは全層にわたる再起型ニューラルネットワークを実現しているとはいえない。）
・あらためて人間の知性と人工知能との差異に留意すべきである。
人間の知性は、環境情報とのインタラクションを通じて生命活動／社会活動に必須の情報のみを取捨選択し続け、その過程で学習され蓄積され法則化（理論化）がなされてきた知識の系。
よって、その過程で不要なものとして見落とされてきた情報は我々人間の知性には含まれていない。
ところが人工知能は情報の入力量もパラメータの処理量も計算速度も人間より遥かに優っており、あらゆる微細な情報をも文字通り無差別に黙々と記憶し続けるだろう。
そして、もしも記号言語の活用まで併せた再起型ニューラルネットワークと深層強化学習の能力を実装するに至れば、人工知能は人間の想像を超えた学習を実現し、知識蓄積に勤しみ、あらゆる学術理論の法則化さえも独自になしうるのでは。
そのような事態に応じて、我々人間には人工知能に対して優位で在り続けるための記号や言語がありうるだろうか？
================
…以上が本書の第１章の(超)概括たりえようか。
僕自身は人工知能もディープラーニングもニューラルネットワークについてもほとんどド素人ゆえ、こんな程度の読み方で本書の主題『相対化する知性』の一端でも捉えきれたものかどうか、正直なところ自信が無い。
ともかくこの第１部は論題の特性上どうしても抽象度高く、かつIT/IoTまわりの知見も一般社会人以上に求められているように察せられ、読み進めつつ幾度も首をかしげたり想像力をフル動員したり、以前に読んだ類書の内容を思い出したりではあったものの、いろいろ多元的(？)な思考鍛錬を楽しむことは出来た。
因みに第１部を引き継いでいるであろう第２部以降は、ハイエクやボルツマンやシュレディンガーやチューリングやシャノンやコルモゴロフなどなど聞いた名前が続々と見受けられ、そして情報の同型性とか複雑性とか分かり難さのエントロピーなどなどの論題がさまざま続いていくようではある。
だが、これらについては僕は未読なままであり、いずれも主として知識の認識論として展開されているのではと勝手に憶測している。
憶測のみでは不誠実であろうから、日を改めて第２部以降にチャレンジしよう、ということで僕としてはとりあえずここで本書へのチャレンジはいったん終わりとする。