「ディープラーニングのセキュリティ問題」にみるネット社会のリスク

● ディープラーニングにもセキュリティ問題 AIを騙す手口に注意

2017年11月18日の日経ビジネスに、表記の記事が掲載されていました。

(引用は「」でくくります。 改行は筆者挿入、以下同様)

「ディープラーニング(深層学習)にもセキュリティ問題が存在する。データからルールを導き出す「訓練」に使用するデータに不正なものを紛れ込ませたり、認識に用いるデータにある種のノイズを加えたりすることで、AI(人工知能)に誤検出させようとする。AIの信頼性に関わる問題だけに、米Googleなどが対策に動き出している。 」

と、いわゆる学習用データに偏りや誤ったデータが存在すると、そこから出来る学習済みモデルも偏った判断をしてしまう、「偏見を持った」AIが出来てしまうというものです。

「GoogleのGoodfellow氏によれば、機械学習ベースの画像認識技術に対する攻撃手法には「アドバーサリアル・エグザンプル(Adversarial Examples)」や「トレーニングセット・ポイズニング(Training Set Poisoning)」などがある」
として、2種類のディープラーニングへの攻撃方法が説明されています。

ディープラーニングへの攻撃方法の概要図 (出典:日経ビジネス
http://business.nikkeibp.co.jp/atcl/report/15/061700004/111400232/?SS=nboimgview&FD=1124500606 )

● データの「量」と「質」と「セキュリティ」

以前、「村田製作所のNAONAに想う、「感情」「人間関係」のデータの質」
http://wp.me/p8EI7Z-lG
でお話したように、AIを利用することで、人間では処理が不可能な膨大なデータを分析し、新しい知見を得ることが出来ますが、その際に使うデータの「量」に加えて「質」も非常に重要になってきます。

今回の記事は、その「質」について、不正なデータを混入することでAIの誤動作や、偏った判断をするAIへの変質を狙う動きとそれに対する対応を取り上げたもので、大変重要な視点かと思います。

● IoTが普及した社会のセキュリティ

以前、アメリカで、電力のスマートメーターへのネットワークを介した攻撃が発生したことが日本でも報じられていましたが、社会インフラにIoTが広く利用されてくると、そのデータの漏洩や盗難というリスクに加えて、今回のような、不正なデータの挿入による誤動作という問題、いわゆるサイバーセキュリティも深刻な問題になってきますね。

既に、電力会社やIT企業などは、IoTインフラに関するセキュリティ問題に取り組んでいますが、今回の記事にも、「ディープラーニングは近年急速に台頭している手法であるだけに、セキュリティ面での研究が普及速度に追いつけていない恐れがある。」と記載されているように、技術とその利用面の発展が急速な「成長期」には、セキュリティ面での対応が追いつかないということは、AI・IoTに限らず多く見られる事象かと思います。

このようなリスクをどのように捉え、対応したら良いか、専門家ならずとも頭の痛い問題ですね。

● 「想像力」と「専門家」の活用を

中小企業において、AI・IoTの利用すらままならないところに、そのセキュリティといわれても、「何のことやら」というのが現状かと思います。

ただ、これだけ広く、かつ急激に利用が進んでいる分野ですので、特に事業で利用しているインフラ(インターネット、ECのプラットフォームなど)や社会インフラが攻撃されれば、自社事業にも影響が及ぶことは避けられない可能性が高くなってきます。

知的資産経営のSWOT分析のT(脅威)の抽出では、このようなネット社会のリスクも視野に入れる想像力と、その対応を考えるクロスSOWT分析において、自社がこの分野のセキュリティ面に疎い(W=弱み)場合は、外部の専門家の知見を活用出来るよう、日頃からアンテナを広く張ってネットワーク作りを少しづつでも進めておくことが必要になってきたと感じる次第です。

この記事がいいなと思ったら、クリックよろしくお願い申し上げます(*^^*)。


中小企業診断士ランキング

★ 「いちいちブログを見に行くのは面倒、自分の関心のある記事だけ読みたい」
とお思いではありませんか?

「知的資産経営で会社を元気に」公式メルマガでは、
このブログのサマリー、今日の名言などを配信しています。

日々の活動から得た、業務効率化や勉強法などメルマガだけの内容もありますので、ぜひご活用下さい!

バックナンバーはこちらから

http://blank-ex.com/bkn64717/chitekis/

メルマガ登録は以下からどうぞ(^o^)!

https://maroon-ex.jp/fx64717/cIBVFx

 

Follow me!

お問合わせ(メルアド不要版)

メルアドや本名は【不要】です。
ご質問には、ブログおよび公式メルマガからお答えさせて頂きますので、よろしくお願い申し上げます。