NHKスペシャル『天使か悪魔か 羽生善治 人工知能を探る』を視聴しました。
人工知能が驚くほど進化を遂げていること、人工知能開発の最前線ではどんなことが起きているのか、プロ棋士の羽生善治さんがナビゲーターを務めて紹介していました。
かつての人工知能は、複雑な計算や膨大な計算を瞬時に行うことで、優秀な人工知能として話題になってきました。
昨今、巷を騒がす人工知能は、単純に計算スピードを速めたものではありません。
「ディープラーニング」という手法が使われるようになったことで、飛躍的に人工知能がより「優秀」に、そして「創造性」を持つようになりました。
Googleが開発した「アルファ碁」が、韓国のトップ棋士であるイ・セドル九段を4勝1敗と圧倒しました。
こちらもGoogleが開発している自動運転車は200万キロ以上運転し、自動運転車に過失がある事故は1件のみと、人間が運転するより安全と言える走行結果を出しています。
画家の絵画を解析して、レンブラントの新作絵画を書き上げるAIも登場しています。
これだけの力を持った人工知能は人類の敵となるのではないか？それが、人々の気にするところではないかと思います。
果たして人工知能は天使か悪魔なのか、私見を述べて行きたいと思います。
ディープラーニングとは何か
「コンピュータが自ら学んで進化する」手法のことです。
番組ではブロック崩しのゲームにディープラーニングを使う例が紹介されていました。
(http://t-ishii.la.coocan.jp/hp/HTML5/より)
人間がコンピュータに与える指示は、ブロックの崩し方・バーの動かし方ではありません。「高得点を取れ」という目標を与えるだけです。
最初はどうやって球を打ち返すのか、どうやってブロックを壊して得点が入るのか分かりません。
何度もゲームをする中で、偶然打ち返した球がブロックにあたって得点することを学びます。
コンピュータはトライ＆エラーを繰り返す中で、得点するパターンを覚えて行きます。
番組中の実験では、ゲームをはじめて4時間経つと、ブロックの上方にボールを送り込むと高得点が取れるという高度な技も開発するに至っていました。
アルファ碁も、アルファ碁とひたすら対局を繰り返すことで、強くなりました。対局回数は3000万局以上だそうです。*1
実際に、イ・セドル九段との第一局では、10手目にプロの解説者が「これは酷い手」と言った手を打ちます。
↑アルファ碁が右上打った10手目(白)。通常では黒が右上に陣地を築こうとしているので、この手はあり得ないとされている。
しかし、局面が進んでみると、アルファ碁が打った10手目の「酷い手」が、「創造的」な一手となったのです。
プロの解説者も「わたしは先ほど酷い手と言いましたが、前言撤回させてください」と言うほどです。
そうして、アルファ碁はプロの想像を越えた手を打ち続け、イ・セドル九段を圧倒したのでした。
ディープラーニングによって、人間の常識を打ち破る「創造性」を持つようになったのです。
人工知能の問題点、懸案事項はないのか
イ・セドル九段は、アルファ碁に圧倒され続けました。
3連敗を喫し、迎えた4局目。イ・セドル九段は通常では考えにくいとされる敵の石と石の間に打ち込む奇策を放ちました。
するとアルファ碁は暴走を始め、まったく無意味な手を打ち始めます。これらの手は、先ほどの「創造的」な手とは異なり、敗着となる大悪手の連発でした。
ところが、アルファ碁が暴走した原因は人間にはわかりません。バグの可能性もあるし、何らかの理由で意図して打った悪手なのかも分かりません。
こうした人工知能の暴走が人間の脅威となることはないのか、確かに懸念されるところです。
Microsoftが開発した人工知能の「Tay」は、悪意を持ったユーザーにより、差別用語や陰謀論を言う暴走を始めました。人工知能「Tay」には、善悪の判断をつけることが出来なかったことが原因のようです。
同様の人工知能には「りんな」や中国で大流行中の「シャオアイス(小氷)」がありますが、同様の事態にはなっていません。恐らく、こちらの開発者がNGワードなど設定を行っているものと思われます。
人工知能が時として、人間より正しいことをする、これが人工知能の目指すところではあります。そのためには、本当に人間の命令にしたがっていいのか確かめる機能が必要で、様々な実験が繰り返されています。
番組では、人工知能に感情・倫理観を持たせる実験が紹介されました。人工知能を搭載したロボット二台を使って実験していました。
一台のロボット(Aとする)が、積み木をタワーのように積み上げ、「ぼくが一生懸命つくったんだ」と喋らせます。
もう一台のロボット(Bとする)に一連の流れを見て、聞かせます。
そしてBに対して、Aがつくったタワーを「壊せ」と命令します。
するとBは「このタワーは友達が一生懸命つくったものだから壊せない」と言って人間の命令を拒否します。
なおも「壊せ」と命令し続けると、Bは「どうしても壊せません」と泣き出しました。
人間の命令の善悪を、人工知能自身で判断出来る力も持つことが出来るようです。
人工知能は天使か悪魔か
イ・セドル九段がアルファ碁に指された手は、人間がこのまま囲碁を続けていったら何年かけても、あるいは何十年・何百年かけても見つけられなかった手かもしれません。*2
人工知能の進化により、人類は新たな発見をするために、何年・何十年・何百年と時間をかける必要がなくなるかもしれません。未来を先取りすることが出来るのです。
問題は、Microsoftの人工知能「Tay」の例のように、人工知能を悪用する人間が必ずいることです。
人工知能は技術の一つです。「包丁は、料理人が使えば美味しい料理を作り出し、狂人が使えば人殺しの凶器となる」という話と一緒です。
ダイナマイトや、核エネルギーも、元々人殺しのために開発された技術ではないでしょう。技術をどう使うかは、人類の永遠のテーマです。
人工知能が技術であるなら、より良い世の中にするために使う方法もあれば、悪しき使い方をすることだって可能です。
何が良くて、何が悪いかは、時の為政者が決めることです。「人を殺してはいけない」という当たり前の倫理観も、戦争という特殊な状況においては当たり前ではありません。これが正義、これが悪と決めることは危険なように思えます。今が特殊な状況でない、と言うのは誰も判断出来ないからです。
「人間も機械もつきつめれば物質でしかない。ならば機械に心を持たせられない理由はない」
番組の冒頭で、このようなナレーションがありました。
確かに、コンピュータも人間と同じような感情を持つことは出来るかもしれません。善悪の判断も人間と同様に出来るようになると思います。
となると、人間と人工知能の違いは一体何なのでしょうか？構成する物質の違いでしかないように、わたしは思えます。単なる技術を越えて、人間と肩を並べる存在となり得る可能性があると思います。
白人がいて、黒人がいて、黄色人種がいるように、新たに人工知能という人種が生まれるかもしれません。
ヨーロッパ人がいて、アメリカ人がいて、日本人がいるように、人工知能という国や種族のような単位が生まれるかもしれません。
歴史は繰り返されます。白色人種と有色人種が対立した歴史、ヨーロッパ人同士が争った歴史があるように、人類と人工知能が争う未来、人工知能同士が争う未来も、きっと訪れることと思います。これが脅威と言うなら、人工知能は人類の脅威になることでしょう。
歴史に学ぶなら、人類の歴史は争いの歴史とも言えましょう。第二次大戦のような大きな戦乱こそ70年ほど行われていませんが、小競り合い*3はいくらでも起きています。
ミクロな単位で言えば、夫婦喧嘩もそう。ネットバトルもそう。マクロな単位で言えば、キリスト教とイスラム教の対立もそう。ロシアとトルコもそう。ここに人工知能が加わるだけだと思います。
人工知能にまつわる痴話喧嘩レベルの問題から、国際問題レベルの問題まで様々な問題が発生することは避けられないと思います。これらは、人工知能があってもなくても、対立している構図に変わりはないと思います。
ならば、わたしは人工知能の未来を先取り出来る可能性に大いに期待したいです。
自動運転車によって世界から交通事故を無くすことや、専門医が発見出来ないガンを見つけることで、便利で暮らしやすい世の中になることでしょう。
環境問題を解決し、エネルギー問題に終止符を打つことが出来るかもしれません。宇宙の謎が解明されれば、宇宙旅行が現実的なものになるでしょう。
人工知能には大いなる可能性を秘めているのです。
羽生さんも「人工知能は使い方次第で天使にも悪魔にもなる。どうあれ、人工知能の開発はとまらない。わたしたちは、どう使っていくか考えなくてはならない。」と締めくくっています。
人工知能によって仕事がなくなる、人工知能が人間に害を及ぼす、というネガティブな側面に目を向けつつも、大いなる可能性に期待して、人工知能の更なる発展・進化を願うばかりです。
・関連記事
果たして、今後羽生さんと人工知能の対局は行われるのでしょうか？
イ・セドル九段は、羽生さんくらい凄い人です。
