AIを活用すると結果の説明は難しくなる

車の自動運転でも事故は発生する。その場合、警察当局や専門家、自動車メーカーが事故原因を突き止めていくであろう。センサーの故障等、ハードウェアの不具合であれば、原因がより明確であろうし、プログラムのバグであった場合でもプログラムを人間が書いている場合は発見できる可能性が高い。しかし、もし自動運転を機械学習レベルのAIでプログラミングしていた場合、事故原因の発見はより困難になるかもしれない。

誤解を恐れずに簡単に言うと、機械学習は工学的アプローチであり、「結果良ければ全て良し」なので、手法はブラックボックス化する。結果が良くても悪くても説明は困難ということになる。しかし、これも部分的にでもAIを活用する方がトータルで自動車事故を軽減できるという実績があれば、説明が上手くできなくてもAI活用は推進すべきものなのであろう。

一方、投資において、投資結果が悪い場合にその理由を説明できないのはプロの世界では実際問題、致命的である。クオンツ運用においては、投資手法とかプログラミングは人間が考えて作っているので、結果が悪い場合でも、一定の説明は可能であるが、それでも投資手法が原則一定なので、結局、その時の投資環境がこの投資手法に合わなかったという説明になる。実際の投資家への説明の場面で「投資結果が悪かったのは市場環境が悪かったから」という説明は責任逃れと取られかねず、対応に苦慮することがある。

これが機械学習レベルのAI活用投資の場合、投資手法がブラックボックス化するため、最悪「この四半期の投資結果は悪かったですが、AIなので、理由は良く分からないです」と説明することになる。当然、何とかAIモデルを解釈して理屈付けするだろうし、長期的に問題のない良好な投資実績であれば、投資家も納得するかもしれない。ただ、前述した通り、AIを活用したからといって、継続的に良好な投資結果を出せるとは限らない。

以上のように、投資判断におけるAI活用は、車の自動運転のように実際に役に立つレベルになるのは当面難しいのではないかと思う。一方、投資分野でも目的が比較的明確な財務分析、トレーディング執行、バックオフィス業務等では、AI活用によって、人間より的確でスピーディな業務遂行が可能となるだろうし、人的資源の節約によりコスト削減効果も期待できる。車の自動運転レベルでいうレベル1、2での活用は今後まずます拡大していくであろう。また、新しい投資手法開発においても人間の発想を超える手法の発見等につながるかもしれない。

さらに、将来、機械学習レベルを超えた、より賢いAIが登場すれば、人間より優れた投資判断をしてくれるのかもしれない。ただその場合、投資判断は人間には理解できないかもしれないので、その際の結果説明は、是非ともAIにお願いしたいものである。

安孫子佳弘(あびこ よしひろ)
ニッセイ基礎研究所　金融研究部 取締役 部長 兼 投資助言室長

【関連記事　ニッセイ基礎研究所より】
・ ロボ・アドバイザー入門
・ ハイリスク・ハイリターンな新興国株式～2017年4月の投信動向～
・ 正しい投資とは何か～投資の勝ち負け～
・ AIは囲碁や将棋の必勝法等にどのような影響を与えていくのか
・ ｢AI資本｣大国へ－人工知能（AI）とベーシック・インカム（BI）