昨今は人工知能ブームと言われていますが、大半の人は人工知能と聞くと合理的で冷静なロボット等を連想します。「人間は間違いを犯すが、ロボットは間違えない。」そういった考え方が多くありますが、人工知能は本当に完璧なのでしょうか？本当に人間を超えた存在なのでしょうか？それとも人間と同じように間違いを犯すのでしょうか？最近の人工知能に使われている技術を簡単に説明してから、人工知能の本当の姿に迫りたいと思います。

まず現在の人工知能に使われている技術の大半は「教師あり機械学習」という技術です。この機械学習では、まず「モデル」というものを定義し、何かしらの目標を果たすためにモデルに学習をさせます。モデルは理論上何でも近似できる方程式ですが、最初は何も出来ません。例えばモデルに写真の動物を猫か犬か区別するという目標を与えます。はじめにモデルに様々な猫の写真を見せ、これは猫だと学習させます。同様に様々な犬の写真を見せ、これは犬だと学習させます。そうして何万枚もの写真をモデルに見せることで、モデルは写真に写っている動物を猫か犬か区別出来るようになります。つまり、モデルに教師あり機械学習を行い様々な例を見せることで、モデルはやっとその例を真似し判断することが出来るようになるのです。

このようにモデルを作るのは基本的に人間です。機械学習のエンジニアは自分の経験を活かし、問題に対してこんなモデルが有効だと予想しながら設計をします。例えるなら、モデルは動物の神経回路に似ており、様々なことに対応できる構造です。しかし大きく異なるのは、自然界の動物は生まれた瞬間から自ら動き出し自主的に学習をしていきますが、モデルは学習ができるという能力を持っているにも関わらず、基本的に学習を行わないと何もできないままなのです。

次に教師あり機械学習ので重要になってくるのが、入力と出力をペアで行う訓練データです。モデルに学習させるため多量のデータが必要ですが、このデータ集めが簡単ではありません。基本的にデータのアノテーション、つまり何が正しいかどうかは人間が決めます。例えばチャットボットの学習のためにどの文章を学習に使うかは人間が決めます。先述した猫か犬か区別を学習させるために写真データを集める際に、まずこれは猫か犬か判断するのも人間です。

以上の通りに、教師あり機械学習では２つの重要な点があります。一点目、人工知能は学習させたことしか出来ません。二点目、人間が正しいと決めたデータの再現をします。つまり現在の人工知能と呼ばれている技術はあくまで限られた処理能力しか持っておらず、人間の真似しか出来ないのです。人間のように万能ではないのです。

最近人工知能の応用が増えています。アメリカでは「COMPAS」という人工知能のモデルが裁判所で再犯率を推定するために使われています。しかしその性能は、裁判の経験のない人間の能力と比べるとほぼ同じでした[1]。要するに人間の作っバイアス（偏り）のある過去のデータから学習させた人工知能モデルは、裁判の経験のない人間の能力を超えられないのです。それでもCOMPASは2000年から使われ続けています。

なぜ人間は人工知能を信じたがるのでしょうか。それは今までパソコンは基本的に間違わずに計算してきたからでしょう。。ですが人間の作ったデータを元に計算してしまうと、完璧に計算できる三角法等と異なり、人間を真似することで人間と同じ過ちを起こす可能性があるのです。現在人工知能は画像分類の分野では人間より効率的に処理を行えますが、もっとハイレベルなタスクだと人間を真似することは出来るかもしれませんが、人間を超えることはありません。本当の意味で万能なのは、人間の能力のみかもしれません。

[1]: Dressel, Julia, and Hany Farid. “The accuracy, fairness, and limits of predicting recidivism.” Science advances 4.1 (2018).