ゲームプレイヤーの思考をプログラムすることで、「人間は何を考えているのか」を解明したい！

コンピュータサイエンス学部　ライエル・グリムベルゲン 教授

将棋や囲碁などのゲームを利用して「人間は何を考えているのか」を解き明かそうとしているグリムベルゲン先生。認知科学的に人間の問題解決方法をプログラミングするという研究テーマから、さらに人工知能の未来についてまで幅広くお話を伺いました。

■先生の研究テーマについて詳しく教えてください。

　私が専門にしている研究分野は認知科学です。そこでやりたいと思っているのは「人間は何を考えているのかを解き明かし、それをコンピュータで再現する」ことで、そのために将棋や囲碁などのゲームを利用しています。
　なぜゲームを使うのかといえば、人間はゲームをするときに「勝ちたい」という目的が明確だからです。目標が明確で、すべての行動が「勝つために何ができるか」という考えに基づいて行われます。しかもゲームの世界は現実と違って「何ができる」「何ができない」のルールがはっきりしていて、問題解決できたかどうかも「勝ち負け」でわかりやすく判断できます。そのため人間の思考をプログラムで再現するためのシンプルなモデルとして「ゲームプレイヤーの思考」は最適なのです。
　研究室では私が昔から好きだったため将棋が題材としてよく使われますが、他にも囲碁や麻雀など、学生それぞれがやりたいと思うゲームを使ってプログラム開発を行っています。ちなみに当研究室で開発したSPEARという将棋プログラムはアマ４段ほどの実力で、「世界コンピュータ将棋選手権」という大会にも過去10回ほど参加していました。
　ただ私個人としては、強いプログラムを作ることにはあまり興味がありません。強いゲームプログラムは、主にデータの蓄積量や計算力といったコンピュータの能力の優れたところを活かして作られているからです。たとえばプロ棋士は対局中に局面を見て、この手とこの手しかないだろう、というように直感的に次の手を判断しますが、コンピュータの場合はそこでルール通りに打てる可能な手をすべて再現して、さらにこの手をさしたら相手がどんな手を打てるかということを計算して次の手を決めていく。このようにコンピュータの強みを使って勝つプログラムよりも、私はむしろ人間の「この局面にはこの手がいい」という判断をコンピュータで再現することに興味があるのです。人間の脳の動き−−どういう風に初心者の状態からゲームを勉強していって、強くなるのか −−それをコンピュータを使って解き明かしたいと思っています。

■人間の脳の動きをどうやって再現するのですか？

　最近話題になっているのは人間の脳の動きをモデルにした「ニューラルネットワーク」を使う方法です。近年、それを使って人工知能がどんどん人間の真似をできるようになってきています。たとえば将棋の場合、ある局面でプロ棋士がさして勝った手があるとします。同じ局面でコンピュータも同じ手で勝てば問題ありませんが、違う手を打った場合、ニューラルネットワークを使って、この局面でプロと同じ手が使えるようになる調整をしていく。また別の局面でプロと違う手をさしてしまったら、再び調整する。これを繰り返して、多くの場面でプロと同じ手を打てるようにしていく。これが「ディープラーニング」と呼ばれる人工知能の教育方法です。
　とはいえ、ニューラルネットワークが人間の脳を完全に再現できるわけではありません。今年の３月、アルファ碁というコンピュータ囲碁プログラムが、世界最強といわれる韓国の囲碁棋士を４勝１敗で破りました。そういうニュースを聞くと、アルファ碁がすでにプロの手を多く再現できているイメージを持つかもしれませんが、データを見るとアルファ碁が打った手のなかでプロと同じ手は57％。まだそれだけしか再現できていないのです。ある程度はできるようになっても、まだ完璧な人間の真似はできていない。そのため私自身は、研究のためにあまりニューラルネットワークを使いたくないと思っています。
　ある部分はディープラーニングを使って人間の真似をし、別の部分ではコンピュータのいいところを使うことで、プロ棋士より強い囲碁プログラムを作ることはできるでしょう。けれど私が知りたいのは「人間の考えること」。そのためには100％人間の真似ができなければ意味がないからです。

■先生がこの研究テーマに興味を持ったきっかけはなんですか？

　私は子供の頃、チェスが得意でプロになりたいと思っていました。そこで、たくさん勉強してたくさん努力しましたが、うまくいかなかった。その次に、将棋も好きで、それなりに強かったのでプロになりたいと思いましたが、ある程度までは強くなれてもプロ棋士にはなれなかった。そこで思ったのが、一体チェスや将棋のプロの頭の中はどうなっているんだろう、私となにが違うんだろう、ということでした。私だってチェスや将棋が好きで、それなりに強いのにどうしてプロになれないんだろう？　そういう「能力の差」がどこから生まれてくるのかが知りたい。それが一番のきっかけです。いってみれば、ただの負けず嫌いですね。自分がどうして負けたのかを知りたいのです。
　私が認知科学の研究をはじめた頃には、人間の思考はいずれ明確にすることができ、それを機械に学習させることで機械が人間の思考をきちんと理解できるようになるだろうと考えられていました。一般的な人工知能は、そういう道筋で作ることができるのではないかと考えられていたのです。けれど今は、ニューラルネットワークを使ったもっと別の方法があると思われています。
　一部は人間の真似をして、それ以外は別の方法を使って、人工知能が一般的な人間の能力を超えることは可能でしょう。そうすると、将来的に人間の物の考え方が明確になったとしても、それはただの哲学的な話になってしまいます。人間はこういう風に物を考えている。だけどそれを人工知能に使う道はない、ということですね。すでにあるニューラルネットワークやディープラーニングの手法を使えばいい話ですから。そうすると、私が研究しているような認知科学的な視点は、人工知能においては必要なくなるかもしれません。
　現に、人工知能が本当に人間と同じことをやっているかどうかは、最近ではあまり重要な問題ではなくなってきています。先ほどのアルファ碁もそうですが、大切なのは人間に勝つことで、人間と同じことをやっているかどうかではない。多分、アルファ碁を作っている人がそれを聞かれれば「人間と同じ能力を持たせることには興味はない」と答えるのではないでしょうか。
　ただ、私自身の目標というのは変わっていません。たとえば人工知能が人間を超えても、それによって「人間は何を考えているか」をどう解き明かしていきたい。とはいえ今の研究の方向をみると、それはなかなか解決できないだろうなとは思っています。だから最終的に私は「なぜ自分がプロ棋士になれなかったか」の答えを死ぬまで探し続けるのでしょう（笑）。

■将来的には人工知能は本当に人間を超えるのでしょうか？

　オックスフォード大学や各国の研究機関などが定期的に発表している「人類を脅かす12の危機」というレポートがあります。昨年発表されたそのレポートのなかに、地球温暖化や核戦争、生態系の崩壊、惑星衝突などのリスクに並んで、初めて人工知能が人間の知能を超え、人間による制御が不可能になったときに起こるさまざまな問題を想定した「人工知能」の項目が入ってきました。人工知能が人間を超える。実際に遅くても50年後くらい、早ければ20年後くらいにはそれが実現するでしょう。
　ただそれは「問題解決能力」の面においてで、人工知能が感情を持ったりするかどうか、ということはまた別問題です。そもそも感情の定義はどこにあるのか。私が個人的に思うのは、感情は「感じる」とつながっているということです。自分が何かに身体をぶつけると「痛い」。そうすると誰かがぶつけたのを見て「痛そうだな」「可哀想だな」という共感が生まれ、それが感情の元になるのだと思います。たとえば人工知能に人間の感覚と同じものを感じられるセンサーをつければ「感情のようなもの」は再現できるかもしれませんが、現状ではそれができているとは思えない。ただこの分野の展開は早いので、５年後にどうなっているかはわかりません。
　また「人工知能の暴走」も、今後の大きな問題のひとつです。先ほど紹介したアルファ碁とプロとの対戦は５局あって、４回はアルファ碁が勝ったんですが、一度は負けました。しかも明らかに悪い手を連発して負けたのです。それは人間だったら考えられないような行動でした。局面の情報をニューラルネットワークに入れて、それに対して手が選ばれるのですが、そのネットワークのなかで何が起きてどうしてこの手が選ばれたのか。開発者たちにも原因がわからず「暴走」という言葉が使われました。
　そこで少し哲学的な問題になりますが、私が興味を持っていることがあります。たとえば医療分野に人工知能が使われるようになったとしましょう。同じ手術を人間が行った場合、10人中1人が術死する。一方、人工知能が手術を行う場合には、100人に1人が暴走で亡くなる。あなたはどちらがいいですか、という質問です。人間の医者が手術するのであれば、人間はミスをする生き物だという意識もありますし、精一杯がんばってくれたけれど何かが足りなかったのかもしれないということで、仕方がないと受け止められるかもしれない。けれど機械に対してそういう気持が抱けるかどうか。数字的には人工知能の方がはるかによくなっていても、自分の身内が人工知能の暴走で殺されたということを人間はどう受け止めるのか。今後はこのような「人工知能をどう受け入れるか」という議論も重要になってくるでしょう。

■最後に、学生へのメッセージをお願いします。

　私は『スタートレック』シリーズが好きなのですが、そのTVドラマシリーズの２作目にあたる「ネクストジェネレーション」のなかに、“データ”という名前のキャラクターが出てきます。彼はアンドロイドで、人間を超えた能力を持っているんですが、普段は他の人間のクルーとうまくつきあっている。その一方で、彼は「自分と人間はなにが違うのか」ということをときどき試してみたりするのです。
　人工知能が人間を超えるという話題になると、「怖い」という人も多いですが、人工知能が人間を超える日は間違いなく来ます。そして皆さんは将来、人工知能と人間が共存する社会を生きることになるでしょう。ですからただ怖がるよりも、データのように自分から「どこが違うのか」と興味を持って近づいていくような感覚でいてほしいと思いますね。そんな風に、人工知能が人間を超えてもお互いが一緒にいられるような社会になるといいなと思います。

■参考動画
ゲームを利用して人間の思考プロセスをコンピュータで再現する研究