テスラおよびスペースXのイーロン・マスクCEOが7月に開催された全米知事協会で、「AI（人工知能）を規制で取り締まらないかぎり、いずれ人類の文明にとってリスクとなりかねない」 との警告を再び発した。

Googleの研究者はAIそのものよりも人間による悪用に懸念を示しているほか、「人間がAI技術を信頼し過ぎている」などの指摘も挙がっており、今後何らかのフレームワークを求める声が高まりそうだ。

AIの開発を「悪魔の召喚」と例えたマスクCEO

マスクCEOがAI規制の重要性を訴えかけるのは、これが初めてではない。2014年にマサチューセッツ工科大学航空宇宙学科の100周年イベントで、AIの開発を「悪魔の召喚」と比べたのは語り草だ（TechCrunchより）。

「人類にとって最大の脅威になりかねない」「国家レベルを超えて国際レベルで慎重に議論されるべき」と、その危険性に注意を促した。

マスクCEOの発言からは、AIの存在そのものよりも、AIを開発・管理する側の人間に対する懸念がうかがわれる。聖水とペンタグラム（魔除けの呪符とされる五芒星）で悪魔を手下に置けると信じていた男が、逆に悪魔のいけにえとなった創作話を例に挙げ、「そううまくは行かない」と、人間が自らの浅はかさを痛感する日が訪れかねない 。

問題が起こってから対処するのでは手遅れ？

テクノロジー情報「The Verge」の報道によると、マスクCEOは全米知事協会で、これまで再三にわたり警告してきたが、「実際にロボットが路上で人間を攻撃し始めないかぎり、誰も（自分の話に）耳を傾けようとしない」と不満を露わにし、唯一の対策法は「規制の導入」との見解を示した。

マスクCEOはAIの発達を、「問題が起こってから対処するのではなく、起こる前に防止策を打ちだしておくべき数少ないケース」と確信しており、それゆえに今すぐにでも規制を導入すべき必要性を主張している。

AIといっても種類は様々だ。大きくふたつに分類すると、GoogleやUber、MicrosoftなどのIT企業が利用している特化型人工知能と、人間の脳に限りなく近いとされる汎用人工知能（AGI）がある。

AGIの方は世間ではまだそれほど馴染みがないが、現時点では日本ルナウェアAIテクノロジーズがAGI「LUNA」の開発に成功している。

Google、深層学習プラットフォーム開発者の見解は？

マスクCEOは特化型人工知能、汎用人工知能ともにリスク視しているが、一部の専門家はそれぞれ違った懸念を示している。

Googleの深層学習研究プロジェクトGoogle Brainの研究者、デヴィッド・ハ氏は、「 AGIの脅威よりも、機械学習技術が人間による非道徳的な振舞いを覆い隠すために悪用される可能性が怖い」とTwitterでコメント。

深層学習プラットフォームKerasの開発者、フランソワ・コレット氏 は、「AIは既存の問題を深刻化させる潜在性を秘めている」と認める一方で、「AIの普及が新たな問題を生みだしたとはいいきれない」と反論した。

またMicrosoftやGoogleの研究者によって、AIの社会的・経済的影響を研究する「AI NOW」 という組織も結成され、AIが社会のあらゆる分野に進出しているにも関わらず、政府が十分な注意を払っていない点、人間がAI技術を信頼し過ぎている点などを非難している（MITテクノロジー・レビューより）。

これらの懸念が単なる取り越し苦労で終わるか、あるいは現実化するか、現時点では不明瞭な点が多い。しかしマスクCEOの主張するとおり、現実化してからでは遅すぎるのだろう。（アレン・琴子、英国在住フリーランスライター）

【編集部のオススメ　FinTech online記事】
・ 金融業界のビジネスパーソンはFinTechの進行に危機感を持たなければならない
・ 最新の株価指数「FinTech指数」とは？
・ ロボアドサービスを公開したウェルスナビ「より使いやすい見た目や操作感を……」
・ CEATEC開催　MUFGが初出展、AIを活用したサービスを展示
・ 「FinTech化が進む金融業界で活躍できる人材とは？」