「ディープラーニングのセキュリティ問題」にみるネット社会のリスク

●　ディープラーニングにもセキュリティ問題　AIを騙す手口に注意

２０１７年１１月１８日の日経ビジネスに、表記の記事が掲載されていました。

（引用は「」でくくります。　改行は筆者挿入、以下同様）

「ディープラーニング（深層学習）にもセキュリティ問題が存在する。データからルールを導き出す「訓練」に使用するデータに不正なものを紛れ込ませたり、認識に用いるデータにある種のノイズを加えたりすることで、AI（人工知能）に誤検出させようとする。AIの信頼性に関わる問題だけに、米Googleなどが対策に動き出している。」

と、いわゆる学習用データに偏りや誤ったデータが存在すると、そこから出来る学習済みモデルも偏った判断をしてしまう、「偏見を持った」AIが出来てしまうというものです。

「GoogleのGoodfellow氏によれば、機械学習ベースの画像認識技術に対する攻撃手法には「アドバーサリアル・エグザンプル（Adversarial Examples）」や「トレーニングセット・ポイズニング（Training Set Poisoning）」などがある」
として、2種類のディープラーニングへの攻撃方法が説明されています。

ディープラーニングへの攻撃方法の概要図　（日経ビジネス
http://business.nikkeibp.co.jp/atcl/report/15/061700004/111400232/?SS=nboimgview&FD=1124500606　）

●　データの「量」と「質」と「セキュリティ」

以前、「村田製作所のNAONAに想う、「感情」「人間関係」のデータの質」
http://wp.me/p8EI7Z-lG
でお話したように、ＡＩを利用することで、人間では処理が不可能な膨大なデータを分析し、新しい知見を得ることが出来ますが、その際に使うデータの「量」に加えて「質」も非常に重要になってきます。

今回の記事は、その「質」について、不正なデータを混入することでＡＩの誤動作や、偏った判断をするＡＩへの変質を狙う動きとそれに対する対応を取り上げたもので、大変重要な視点かと思います。

●　ＩｏＴが普及した社会のセキュリティ

以前、アメリカで、電力のスマートメーターへのネットワークを介した攻撃が発生したことが日本でも報じられていましたが、社会インフラにＩｏＴが広く利用されてくると、そのデータの漏洩や盗難というリスクに加えて、今回のような、不正なデータの挿入による誤動作という問題、いわゆるサイバーセキュリティも深刻な問題になってきますね。

既に、電力会社やＩＴ企業などは、ＩｏＴインフラに関するセキュリティ問題に取り組んでいますが、今回の記事にも、「ディープラーニングは近年急速に台頭している手法であるだけに、セキュリティ面での研究が普及速度に追いつけていない恐れがある。」と記載されているように、技術とその利用面の発展が急速な「成長期」には、セキュリティ面での対応が追いつかないということは、ＡＩ・ＩｏＴに限らず多く見られる事象かと思います。

このようなリスクをどのように捉え、対応したら良いか、専門家ならずとも頭の痛い問題ですね。

●　「想像力」と「専門家」の活用を

中小企業において、ＡＩ・ＩｏＴの利用すらままならないところに、そのセキュリティといわれても、「何のことやら」というのが現状かと思います。

ただ、これだけ広く、かつ急激に利用が進んでいる分野ですので、特に事業で利用しているインフラ（インターネット、ＥＣのプラットフォームなど）や社会インフラが攻撃されれば、自社事業にも影響が及ぶことは避けられない可能性が高くなってきます。

知的資産経営のＳＷＯＴ分析のＴ（脅威）の抽出では、このようなネット社会のリスクも視野に入れる想像力と、その対応を考えるクロスＳＯＷＴ分析において、自社がこの分野のセキュリティ面に疎い（W＝弱み）場合は、外部の専門家の知見を活用出来るよう、日頃からアンテナを広く張ってネットワーク作りを少しづつでも進めておくことが必要になってきたと感じる次第です。

この記事がいいなと思ったら、クリックよろしくお願い申し上げます(^^)。

中小企業診断士ランキング