2014.12.22

人工知能で人類が滅亡するとか悪魔とか言われているわけですが…

萩原静厳

こんにちはビッグデータエバンジェリストの萩原静厳です。最近巷で「人工知能が人間に悪影響を及ぼす」という話題が盛り上がっていますが、人工知能を加速させてる人間として書いておこうと思います。

イーロン・マスク、ホーキング博士など多くの著名人が人工知能の進化を懸念

ホーキング博士はここ数十年現代宇宙論を進化させてきた人物で「ブラックホール」に関する理論を確立してきた超有名人、イーロン・マスクは起業家でペイパル社やスペースXなどの有名企業を作り、今はテスラモーターズのCEOという超有名人です。その二人が「人工知能は危険だ」と言っています。

ホーキング博士、人工知能のリスクを警告（日経新聞）

「われわれがすでに手にしている原始的な人工知能は、極めて有用であることが明らかになっている。だが、完全な人工知能の開発は人類の終わりをもたらす可能性がある」

「人類はAIによって悪魔を呼び出そうとしている」：E・マスク氏、再び懸念を表明（CNET）

「AIによって、われわれは悪魔を呼び出そうとしている。五芒星と聖水を持つ男が登場する物語は皆さんもご存じだろう。その男は悪魔を操ることができると確信しているが、実際にはそれは不可能だ」

ここ数か月で人工知能に関する専門家の意見が飛び交い、基本的には「危険だ」という主張が多い状況です。そういう話を聞くとあまりこの手の情報に触れていない人は「人工知能ってなんか怖い」とか「私の仕事がなくなっちゃうの？」とかそういう不安ばかりが募ってきてしまいます。個人的にはそういう流れは良くないなぁと思っていますし、実はすでにみなさんも恩恵を受けていることがたくさんあります。そのあたりの話はまた次回。

そもそも人工知能とはどういうものか？

neuralnetwork

まず人工知能の特徴をとても簡単にお話します。通常コンピュータはあるものを記憶し、再度同じ形や色を見たときに「過去に見たそれだ」と認識するのですが、ちょっとでも形や色が変わってしまうと「過去にみたそれだ」という判別ができないのです。プログラミングでも一文字違えばエラーが出たり、キーボードのタイピングでも一文字打ち間違えれば違う文字になってしまうのと同じです。

一方、人間の脳はある意味適当に作られていて、違う形や色を見ても「過去に見たそれだ」ということがわかるわけです。超簡単にいうと友人が髪を切ったときに「花子ちゃん髪切ったねー」と言って褒めることができるのですが、コンピュータは「あれは花子ちゃんではない」という風になってしまうわけです。また雪だるまを見たときに「人の顔っぽい」ということがわかるように目と鼻と口の線さえあれば顔と理解することをができてしまうわけですが、コンピュータはそういうことはありえませんでした。

人工知能はコンピュータであるにもかかわらず人間の脳の曖昧さを理解できるような形に作られているため、ピントが合わない写真を見ても「アレは猫だ」とか「花子ちゃんが踊っている」ということがわかるようになるのです。専門用語でいうと「ニューラルネットワーク」とか「ディープラーニング」という単語がまさにそのあたりのものになります。

このあたりの詳細についてはまとめ系の記事が良いかもしれません。

GoogleやFacebookが注目するディープラーニング（深層学習）についてまとめてみた（NAVER）

ということでコンピュータが人間にしかない能力を手に入れていっていることを意味しているので、ホーキング博士やイーロン・マスクは「危険だ危険だ」と言っているわけです。確かにコンピュータ自身が自分で情報を仕入れ学習していくのであれば人間のようになり、かつ疲れたりサボったりしないのでその成長度は人間より圧倒的になっていくと考えられます。また2045年をシンギュラリティー（技術的特異点）つまり「コンピュータが人間の知能を超える」タイミングを指摘する人々も多くいます。そのような話を聞くと本当にあり得る話なのかと思うわけです。

エリック・シュミットは「AIを恐れる必要はない」と主張

さすがと思いましたが、私もこの流れに意見は近しいのでぜひご紹介したいと思いました。Google会長のエリック・シュミットは反対の意見を述べています。

人類はAIを恐れる必要はない：Googleエリック・シュミット語る（WIRED）

「神経回路網は、『猫』の概念を発見しました」とシュミットは述べたのだが、その声のトーンには落胆が感じられた。「この結果について1つだけはっきり言えるのは、ここまでしかわれわれは到達していないということです」。

※この「神経」と「猫」についてはこちらをご覧ください。

まだ技術的にも発展途上であること、そしてエリック・シュミットはその後「本当に心配すべきことは、人々が来る新しい世界に対応できるようにすること。そして、収入を最大限増やせるようにするために、教育制度や奨励制度をグローバルに改善するのに何をすべきか、ということなのです」ということも伝えています。

私からすると人間の脳と人工知能には大きな違いがあり、具体的には人工知能はあくまで過去を学習し連続的な進化をしてく一方で人間はその進化をしつつ非連続の変化をすることも多々あります。たとえばある本の一節に感銘を受けて突然思考が変わったり習慣が変わったり、人と会話するときに思いもよらないアイデアが生まれたりすることですが、そういうことができるのは人間の脳特有のものかと思います。

またそもそもなぜ相反する意見が生まれるかは「性善説」か「性悪説」の思考性に依存していることも大きいのではないかと思っています。数年前の「クローン」についても結局は人間に適用されることはなく静まってきていますし、3Dプリンターも「ピストル」に使われるケースが話題になりましたがそういうこともなくなっているように見えています。結局は人の倫理観や思考性に依存することなのだと見ています。