Reading For Pleasure

読書日記、ときどき食日記

05« 2017 / 06 »07
1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.

人工知能 人類最悪にして最後の発明 / ジェイムズ・バラット 

「フランス・バルデルの人工知能についてはどう考えるべきだろう」

これは、ダヴィド・ラーゲルクランツによる『ミレニアム 4 蜘蛛の巣を払う女』 の続編の中で、ミカエルが久しぶりのリスベットに送ったメッセージだ。
この本の後に、ちょうどその『ミレニアム 4 蜘蛛の巣を払う女 』を読んでいるのだ。我ながら、なんともタイムリーだなぁ!
まだ、読み終わっていないが、この話題を盛り込んでいるというのは大いに期待ができそう。

このラーゲンクランツによる「王様のブランチ」では堂々2位を獲得していたが、橋本マナミの写真集にはかなわなかったよう…(笑)

ところで、人工知能といえば、一番身近なのは、アイフォンに搭載されているSiriではないだろうか。
夫が家のどこかでスマホをなくしても「ハ〜イ、Siri!」と呼びかければ応答もしてくれる。
残念ながら、私のスマホはアンドロイドなのでSiriはいないが、アンドロイドはグーグルの技術の上に成り立っているのだそうだ。グーグルプレイというアプリをなんの気なしに消してしまったせいで、先日はひどい目にあってしまった…
あれは消しちゃダメらしいですね。
0.jpg

ただ、本書で問題にしている人工知能(以下AI)は、Siriよりももっと高度なものを指している。それは人工汎用知能(AGI Artifical General Intelligence)のことだ。AGIは、独自に進化して自らのプログラムを書き換え、わずか2日のうちに人間の知能の実に1000倍もの知能を獲得し、さらに進化を続けるといわれる。
その名は、”ビジーチャイルド”と名付けられている。子供のように進化していくからだろう。しかもAGIの場合は限度というものがない。瞬く間に人工超知能(ASI )となる。

AIの開発に本格的に取り組んでいるのは、各国政府の国防機関や、グーグルのようなとてつもなく予算が潤沢な組織だ。北朝鮮、イランなどもまた然り…

AIの未来に関する議論には、一般に楽観論と悲観論の双方がある。
前者は、AIが人間並みの知能を有すれば、一人に一ロボットの時代が到来し、これまで人間がこなしていた様々な厄介な作業をロボットが肩代わりしてくれるようになるというものだ。それによって、人間は危険な労働から解放され、幸福な人生を送れるようになる。後者は、AIは様々な問題を引き起こし、人類を苦しめることにあるだろうというもの。
サブタイからも容易に推測されるように、本書はそんなAGIの未来に警鐘を鳴らす本である。
楽観論、悲観論ともにその前提は「AIは人類と共存する」ことだが、本書は、その二つの考えよりもさらに進んで、その前提の危うさを説く。
技術的に進化した存在が、より劣る存在と出会ったらどんなことが起きるのか。
それはこれまでの歴史が証明している。コロンブスとアステカ王国の人々、ピサロとインカ人、ヨーロッパ人とネイティブアメリカン…結末はわざわざいうまでもないだろう。

人間が人間よりも知能の劣る裏庭のアリにコントロールされることがないように、人類の1000倍も賢いAIが、人類にコントロールされることはないだろうし、AIが人類に対してフレンドリーだとは限らない。
私たちだって、ネズミやゴキブリと交渉したりはしないのだから。
しかも、AIはそもそもが「効率性」と「自己保存」を目的としてプログラミングされており、そして完全に合理的に振る舞う。
さらに、AIに、人間らしさを組み込むのは、非常に困難な状況にあるらしい。とすれば、AIは人類を邪魔な存在として滅ぼしてしまうかもしれず、生かしておくにしても、人間が動物を家畜のように扱うように、"資源”として活用するのかもしれないともいう。
まるで、それは、映画「ターミネーター」の世界だ。
AIは、「人類最後の発明」になるやもしれない。一旦AGIが生み出されてしまえば、後戻りはできない。
ある種AIは、核兵器と同じなのだ。それでも各国の国防機関、グーグルなどの大企業は、どこかに先じられてなはらじと、我先に開発を推し進めている。そして、ウォール街のアルゴリズム取引の例をあげるまでもなく、AIの進化はお金を生む。なんといってもAIは、完全に合理的に振る舞うのだ。ゆえに、AIの安全性についての議論は置き去りにされたまま、進められているのだ。

著者のジェイムズ・バラットは、アメリカのドキュメンタリーもののテレビプロヂューサーであるが、2014年のタイム誌が選ぶ、「AIによる人類滅亡を論じる重要な識者5人」に選ばれてもいる。ちなみに、その5人のなかには、かのスティーヴィン・ホーキング博士も含まれているという。

本書の内容は、決してSFでもなければ、「面白おかしい」ものではない。ここで述べられているのは、AI賛成派と反対派双方に取材しその声に耳を傾け、なおかつ論文や講演を読み込み、自らも熟考を重ねた上で、導き出された結論なのだ。
本書を読む限り、その論理に間違いはないと思われるし、かなり絶望的な状況であることは間違いないと思う。少なくとも私には、筋が通っていると思えた。
これを読んだ上で、それでもなお、著者は専門家ではないし、そんなことはあるわけがないという超楽観的な人は、おそらく神が助けてくれるのだろうとも(笑)それはそれで幸福な生き方だとは思うが。

どうすればAIによる人類滅亡が防げるのか、本書にもその解決策は用意されていない。ある種の幸運に頼るほかはないとさえ、著者は思ってもいる。だが、ほんのわずかでもその危険性に警鐘を鳴らすことができれば、というのが本書の趣旨なのだろう。
この種の危機が、議論の俎上に乗ることはないこと自体、人類の存続にとっては既に絶望的なのかもしれない。



人工知能 人類最悪にして最後の発明

ジェイムズ・バラット (著), 水谷 淳 (翻訳)
出版社: ダイヤモンド社 (2015/6/19)


Kindle版
人工知能 人類最悪にして最後の発明







関連記事

category: ノンフィクション・新書

thread: 最近読んだ本 - janre: 本・雑誌

2016/01/09 Sat. 20:48 [edit]   TB: 0 | CM: 0

go page top

この記事に対するコメント

go page top

コメントの投稿

Secret

go page top

トラックバック

トラックバックURL
→http://spenth.blog111.fc2.com/tb.php/556-95d4c1e0
この記事にトラックバックする(FC2ブログユーザー)

go page top