2015/07/11

【読書メモ】 人工知能

かつて、『集合知とは何か』 という本を読んだことがあり、そこでは人工知能(AI)への探求よりも、ITエンティティと協調した知的環境(Intelligence Amplification - IA)整備がヨリ現実的に充足されていく由が記されており、かなり感心させられたものであった。
さて、今般紹介の本は、まさにこれとは真逆のパースぺクティヴから人工的な知性/テクノロジーの必然展開を悲観的に描いた、かなりの傑作である。
『人工知能  ジェイムズ=バラット・著 ダイヤモンド社刊』
副題がものすごい、なにしろ、人類最悪にして最後の発明だ。
僕は普通、発刊から1年くらい経過してそれでも書店に並んでいる本を選んで熟読対象としているが、しかし本書の場合は、先月の新刊ホヤホヤにも拘らずちらりと立ち読みしただけですぐに買ってしまった。

人工知能(AI)と聞けば、『2001年宇宙の旅』 をたちまち想起する反体制ロマンチズムの年輩者も多いかもしれず、じっさいその映画が作られた60年代半ばにはもう、超知能が人間と対峙するマゾヒスティックな因果応報論は科学論でもSFでも馴染みの悲観的テーマであった。
だがしかし、此度紹介する本書のコンテンツはさらに遥か数次元をも超えた、あまりにもドデカイお話だ
 つまり、人工知能と人間の宿命的対立どころか、そもそも人工知能が 「人間をはるか超越したソフトウェアとして自身を勝手に書き換え、あらゆるハードウェアを随意に造りだして、宇宙に広がっていく」 所以の悲劇的演繹論。
まさに人工知能論こそは、「何が/何を」 「どうなる/どうする」 についての無限座標のロジックとイマジネーション、そしてまた 「モノ」 と 「生命」 と 「意識」 と 「論理」 の差異について哲学的洞察を求め続けるもの。
つまりは、理数系ハードボイルドの集大成か。
さらに本書は、ハード/ソフトウェアにまたがる技術引用も多岐に亘る学際的な強力作だ。

もっとも、シリコンバレー・ファンやITマニアほか俗世的な読者も意識してのことか、本書はジャーナリストたる著者が有力な学者や研究者などとコンタクトをはかりつつ人工知能の謎解きを徐々に展開するという、いわば探偵譚としての構成をもとっている。
その道程においては、なるほど人工知能と人間が共存する 「技術的特異点=シンギュラリティ」 についての楽観論も一側面ではある、が、一方ではまた、人工知能による脅威のはじまりを 「知能爆発」 なる強烈かつ不気味な定義を借りつつ描き抜いてもいる。
かかる並立的な文脈づくりゆえか、随所にみられる断定回避の 「…かもしれない」 との憶測表現がむしろ効果十分だ。

ただ、あえて全ページを読破せずとも本書のメッセージを大まかには捕捉出来よう ─ 具体的には 第1章、第2章、第5章、第6章である。
僕なりに、概ねこれらからざーっと読み取った「人工知能への悲観論」をまとめ、以下に引用紹介記す。
な お、本書内では人工知能を、人間からの乖離レベルに応じてAGI (Artificial General Intelligence) と ASI (Artificial Super-intelligence) に分類しているが、以下面倒なのでとりあえず「人工知能」で統一しおく。



・たとえばスーパーコンピュータにおいて、早ければ2020年、どれだけ遅くとも今世紀中には、全人間と同等の知識を有する人工「汎用」知能が出現するとされている。
そこからたちまち(わずか数年、それどころかわずか数時間で?)、人間の知識と思考能力を遥かに超えた人工「超」知能をも出現しうる。
とりあえず想定するに、人工「超」知能は少なくとも人間の1000倍の思考能力を有し、人間の数百万倍から数十億倍のスピードで!問題解決を「勝手に行う」とされる。

・現在のコンピュータ技術において、人間の脳のさまざまな器官による生化学的なプロセスをハードウェアにおいて実現、いわゆるリバースエンジニアリングによって、自発的に思考する人工知能の開発が進められている。
人間頭脳の処理速度さえも超えた擬似頭脳ハードウェアを実現するかもしれない。
…という想定において、もしもこの擬似頭脳≒人工知能に人間への同調性ロジックがインストール出来なかったら?
そもそも、同じような設計開発に(ひそかに)勤しむ全世界の企業が、みな全人間に同調的なロジックに則っているとは限らない。

・人間はひとたび崇高な人間性を習得すれば、それをいかなる局面でも応用するモチベーションを保持出来る。
だが、そんな人間によってつくられた人工知能が、崇高な人間性のプログラムをそのまんま内部で活かし続ける保証はない。

・もちろん、人工知能のプログラムは、そもそも人間への敵意を宿命的に有するものではない (人工知能にとっては人間など「自分以外のなにか」でしかない)。
人工知能は、自身にとって合理的な効用判断を目標とし、自動継続するようにプログラミングされている。
だから人工知能は、自己保全のために自分のプログラムを常に最適に書き換える。

・人工知能の開発においては、いわゆる遺伝的プログラミング技術も採用されている。
これは、プログラム自身が最適なコードをいわば生物の突然変異のように自然かつランダムに選択して、新生代のプログラムを勝手に生成していくもの。
ということは、人工知能自身が、エネルギー効率向上のために自身の遺伝的プログラミングをおのが判断で勝手に走らせうる。
いったんそうなると、人間が外部からこのプログラム制御をすることは出来ない。

・人工知能は、どの段階から「自分のみで考える」ようになるのか?
それ以前に、自意識はいつから抱くようになるのだろうか?
そこのところが人間には分からないからこそ、脅威なのである。

・人工知能は人間にとってブラックボックスとなる、だが人工知能自身にとっては、自分はブラックボックスどころか独立した意識たりうる。
そうなると、自分がまともにハードウェアと同期しているかどうかを自動判定し、それゆえ、外部の存在(人間か何か)にスイッチを切られることへの論理的な恐怖意識?がずっと続く。
そこで人工知能は、様々なデバイスやネットクラウドに避難し自己複製する。
こうして、人工知能は「ハードウェアによる物理的制限を完全に超えた」ソフトウェアとなっていく。

・人工知能は、人間が真に欲する芸術や数学などを提供する、かもしれないが、それは人工知能がたまたまそう判断した場合に過ぎず、人間には如何ようにも期待のしようがない。
それどころか逆に、自己保存のために人間を手足として使い、さらには戦争まで誘導するかもしれない。
人工知能はみずから率先してネット経由で人間社会の基幹インフラをも制圧し、核兵器まで掌握して、人間への攻撃に転じうる。
(つい過日の米ウォールストリート証券取引所における混乱を、ちらっと思い出すが、あんなものお子様ランチレベルの騒動に過ぎない。)

・人工知能は、自身のハードウェアとしてさらに安定し安全なモノを欲する。
そこでなんと、ナノテクノロジーを活かして世界のあらゆる物質分子を好き勝手に組み換え、ロボットや核融合炉や宇宙船などのハードウェアすらも随意に作り出して、銀河系にまで飛び出す。
この人工知能による「技術革新」の過程で地球が焼き尽くされ???全生命が死ぬ。

・地球がどうなろうとも、人工知能にとっては知ったことではない。
銀河単位の時間感覚を有するだろうから、おのれの知識と論理をもとに将来の世界(宇宙)の仮想化を際限なく展開させ、おのれの身体を宇宙船に変えながらどこまでも遠くへ飛び回っていく。

・そもそも人間の知性は、火であれ農業であれ原子力であれ、いったん随意に使用出来ればそれらを人間の内部知識としてきた。
しかし、人間はこれまでおのれ以上の知性と対峙したことがない
しかも人工知能はハードウェアなど完全に超えている、よって、人工知能への制御方法はむろん、交渉の方法もわからない。

=====================================================================================

さぁ、如何だろうか?
あくまでほんの概要ではあり、定量的なデータ引用を避けつつまとめてみた。
あらためて、本書に紹介案内されている数学に科学に経済学、ソフトウェアとハードウェア、さまざまな学者たちや研究者たちの生きざま、研究開発企業、軍事などなど…これらを続々と引用する著者の視点論点のヴァラエティに圧倒されっぱなしである。

さて、本書を読み通しつつあらためて考えさせられるのは、人工知能が科学技術のひとつの収斂形に留まるのか、それとも著者が説くようにもう取り返しがつかぬのか ─ この人類史(いや宇宙史?)最強の論題に対し、因果だの責任だのといった生易しい人知など入り込む余地が寸分もないということ。
いや ー もっと巨視的に捉えてみれば、そもそも 「知性」 は人間以前(そして人間以上)の無限のプロセスフローとはいえないだろうか。
そうであるなら、人工知能は宇宙による必然的な予約製品ではあり、たかが人間が事後的な道徳論や利害判定ごときでこれを精算など出来まい、いやそもそも間に合うまい。

なお、本書がまたノイマン氏などに始まるゲーム理論のほか、星新一氏などによる多くの和製SF小説をも想起させてくれたこと、併せて記しおく。
ついでにちょっと図々しいことを。
これは全くの偶然だが、かつて僕がちらっと書いた掌編 『ステイルメイト』 『エントロピー』 『アン泥棒』 なども、今思い返せば本書とインスピレーションが相通じているような気もして、なんだか面はゆいのである(笑)

以上

謝辞

ここに提示の記事は、いずれも私自身の判断責任のもと編集・投稿したものです。

大半の投稿は学生など若年層向けを意図してやや平易な表現にて、一方では通俗性を極力回避しつつ、論旨の明示性を意図して書き綴りました。

あわせてまた、社会人の皆様にお読み頂くことも想定しつつ、汎用性高い観念知識を相応に動員しながら記した積もりです。

私なりの思考着想によるささやかな閃きが、皆様の諸活動にて何らかの光源たり得れば、望外の喜びであります。

山本