特異点

http://www.chosunonline.com/m/svc/article.html?contid=2016031100881

後10年は無理と言われていた囲碁でトッププロにコンピュータが勝った。

過去、チェスにIBMのスパコンが勝ったときは、プログラムを組んだ人達の棋力自体が高く、盤面をどう評価するのかという評価関数の設定や、どこから先を無駄な処理と推定して先を読むのを打ち切る枝刈りなどは彼等の棋力をコンピュータの馬力で拡張したものと言えなくもないような性質のものだったと思う。

将棋はチェスより場合の数が本質的に多く、さらに困難だったが、近年、機械学習という手法を使うことでプロに勝てる棋力を持つコンピュータが現れるようになっていた。
機械学習では、棋譜を大量にコンピュータに与えることで最善手を指せるように予め調整しておくことが可能になったし、これによってプログラマの棋力とコンピュータの実力の相関が極めて弱くなった。
それでも、プログラマは自分のプログラムを把握してると感じていたはずだ。
盤面を評価する関数の係数は学習させるとしても、そもそも与える関数の形はプログラマが与えているし、探索空間の性質もまた把握しているからだ。そもそも把握していなければ機械学習が良い結果を出力するように調整する事が不可能だから。

今回、囲碁でプロを負かした機械はどうだろうか？
確かに学習機構は人間が与えている。もしかすると出力層の先でSVMのような従来型の機械学習を噛ませてるかもしれないし、最初に与える入力も、途中の学習機構も人が調整してる。
しかし、
ディープラーニングでは、もはや、特徴量を人間が与えることをしていない。
プログラマは後から係数を分析することは可能かもしれないが、うまく動かすために何が起きているのか本質的に理解する必要がなくなっている。

この事から特異点が近いというような言説や危機意識が語られているが、おそらくそれは時期尚早。
まだ、人工知能は入力に反応する学習機械に過ぎない。
意志を持っていない。

意志はどこから生じるのか？
そこが明確になり始めた時が、本当に注意しなければいけない時だろう。
今や、人類は人以外の自律的学習機械を手に入れつつあり、それを使って意識の謎に切り込むことも可能になりつつある。
願わくばそれが、冒頭引用の囲碁のプロたちのように理解不能なまま実現することのない事を望みたい。ら