2019年3月7・8日に、サイバーセキュリティシンポジウム道後2019(SEC道後2019)に参加してきました(イベントサイトはこちら：http://www.sec-dogo.jp/)。
講演内容は技術的なもの(IoT、電力などインフラ設備のセキュリティ、AI、ウェブ、技術教育など)が半分、サイバーセキュリティの政策・国政やセキュリティマネジメントに関する 物が半分程度でした。
シンポジウムの中で、特に興味深かった講演である「えーあい・みーつ・せきゅりてぃ」と「サイバー空間が現実世界へ与える影響が大きいこの時代の人材育成とは」について、講演内容を自分で補完しつつ、3回に分けて要約していきたいと思います。その他の講演については、イベントサイトの以下のリンクよりダイジェストを読むことが出来ます。
http://www.sec-dogo.jp/digest/
本ブログをご覧になった方の中で、間違いや不正確な内容があったらご指摘いただけると幸いです。
「えーあい・みーつ・せきゅりてぃ」
講演者：申 吉浩 先生（兵庫県立大学、Carnegie MellonUniversity）山川 宏 先生（NPO 法人全脳アーキテクチャ・イニシアティブ、ドワンゴ人工知能研究所研究所長、https://www.facebook.com/hiro3ymkw）
申先生は特化型AI (Artificial Narrow Intelligence: ANI)、山川先生は汎用型AI (Artificial General Intelligence: AGI)の専門家として公演された。ANIとAGIの一般的な話からセキュリティに関するAIに加え、筆者が質問した量子コンピュータがセキュリティに与える影響など議論は幅広いものとなった。
１Deep Learning自体は新しい技術ではない
セキュリティ業界に限らずDeep Learningがバズっているが、これはNeural Network(NN)が派生したものであり、技術的に新しいものでは全くない。昔からあるものである。それがここ数年急に注目されだしたのは、1980年代頃までに培われた画像解析などの関連技術の研究が続けられてきたこと、ビッグデータによる大量の学習用データが利用可能になったこと、GPU計算機により行列計算の高速並列化が可能となったこと、GoogleやNVIDIAが誰もが使えるライブラリ(schikit-learn, keras, pytorchなど)を無償で提供したこと、これらの要素が重なったことでブレークスルーが起こったためである。
２AIが人間に勝つのは当たり前？
2016年に韓国囲碁チャンピオンのイ・セドルがグーグルのAlphaGoに敗れたこと(https://wired.jp/special/2016/alphago-vs-sedol/)を皮切りに世間の注目を集め、今やAIが人間の仕事を奪うとかTechnological Singularity(技術的特異点)が起こって人間を支配するとか一部では言われているが、元々記憶力と計算力が人間より非常に優れているコンピュータが囲碁で人間に勝てるのは驚くべきことではない(そもそも、チェスや将棋などのボードゲームにおいて、コンピュータが人間に追いつき逆転するまでの性能向上プロセスを顧みれば、2016年頃に囲碁で勝利することも予測できないことでは無かった)。徒競走で人間が車に勝てないのと同じである。
囲碁に限らず、AI研究の歴史では、その性能を測る手段として様々なボードゲームが多用された。それは、ボードゲームが人間の知能・知性の発露であると考えられていたからであるが、それがそもそも間違いではなかったのかと思う。ではどうやって測るのが良いのか？その問いに答えるには「知能・知性とは何か」という事を考える必要がある。
３知能って何？
Technological Singularityとは一般に、「人工知能を搭載したコンピュータの方が、人間よりも賢くなること」(https://wa3.i-3-i.info/word15077.html)、「コンピュータが発達して、その知能が人類の知能を凌駕する時点」(http://iot-jp.com/iotsummary/iotcategory/%E3%82%B7%E3%83%B3%E3%82%AE%E3%83%A5%E3%83%A9%E3%83%AA%E3%83%86%E3%82%A3%EF%BC%88technological-singularity%EF%BC%89/.html)、とされている。山川先生は「Singularityが起こる主要因は人工知能が人工知能の研究を行える能力を獲得し、再帰的自己改善を行えるようになる時点」と言う点が重要としている。どの定義も正しいと思うが、未だにこの言葉の意味が分からない。なぜなら、人間の知能とは何か、知能がどういう仕組みで働いているかが未だはっきりとは分かってないからである。
はっきりとはわかっていないが、現時点での自分の見解を述べたいと思う。「経験・学習の中から法則性を学習するサイクル、これが知能の源である」というのが人工知能研究社の依り代とする考え方だが、そうではなく、「抽象化」が人間の本質的な能力、すなわち知能の源泉に当たるのではないかと思っている。抽象化とは、具象的な事実から簡潔な真理を見つけ出すことで、例えば、惑星の運動といった複雑で膨大なデータからニュートン力学の公理（ケプラーの法則）を導き出す事が挙げられる。
これに対して、機械学習アルゴリズムが搭載されたコンピュータ（AlphaGoなど）がやっていることは、無意味なパターンも含めマシンリソースの許す限り記憶し、それをしらみ潰しに評価することである。闇雲に記憶させず、過去の対戦履歴や定石から有効と思われるパターンに優先度をつけるという事は行っているが、これは抽象化ではない。（表現がちょっと過激だが）定石は「人間が覚えやすいように」という理由でパターンに理屈をくっつけたもので、そのパターン認識のレベルにおいて人間の認知能力が人工知能のそれより劣ったことが証明されたのだと思う。
そう考えると、ボードゲームの勝敗は人間の知能・知性が発露したものではないので、それをもとに人間とコンピュータの知的優劣を決めるのは適切ではない、と考える。
４情報セキュリティで、AIを取り入れることによって期待されていること
システムの脆弱性を予測するため、将来的にゼロデイ攻撃がなくなると期待されている(しかし、攻撃側も特化型AIを取り入れればイタチごっこの構図は変わらないのではないかと筆者は考える。現時点では、筆者が知る限りそのような高性能な特化型AIは開発されていないのでどのような将来になるかは予測できない。ましてやAGIがとりこまれた未来など想像できない)。
５AIとセキュリティの接点としての暗号
暗号とAIは表裏一体の分野である。符号と情報が往来しているという点で共通している(暗号とは情報を符号化したもの)。
理論的に解けない暗号を完全秘匿暗号(One-time padなど)というが、これは実用的ではない。現実的には、いつか破られるがそのためには膨大な(京コンピュータでも宇宙誕生から今日までの年月の何倍もの時間がかかるくらいの)計算量が必要な暗号、すなわち計算量的安全な暗号を利用している。以下にその図を示している。
暗号論の分野において、機械学習は元の情報に還元が可能な符号化のレベルを探求している。一方で、暗号論の中の公開鍵暗号理論では、計算量理論的に元の情報に還元できない（鍵なしには復号できない）符号化のレベルを明らかにしています。共通鍵暗号理論でも、既知の攻撃モデル（差分攻撃や線形攻撃など）に対して、同じ議論を行なっているが、他に攻撃モデルがあるかは依然研究の対象であり、符号化レベルの限界の探索を行なっているところである。
従来の暗号論では復号化できない暗号化のレベルを追究し、機械学習では復号が可能な暗号化のレベルを追究している、という意味で、暗号理論と機械学習は、同じ問題を正反対の方向から研究している研究領域であるということができる。
機械学習を利用した場合でも完全秘匿暗号に近づきすぎるほど復号が難しくなっており(＝破られにくく安全)、その限界を攻撃者と防御者でせめぎ合っている。このような研究は、機械学習の情報プライバシー問題(機械学習で取り扱う情報のプライバシーの問題)を解決するために行われており暗号情報セキュリティとして注目されている。
６そもそもAGIって何？
佐藤、理史 (2018、「人工知能」『日本大百科全書(ニッポニカ)』 小学館・朝日新聞社・VOYAGE GROUP、人工知能 | 日本大百科全書) では、以下のように定義された。ここでもこのような定義で議論する。
「人工知能は、「計算（computation）」という概念と「コンピュータ（computer）」という道具を用いて「知能」を研究する計算機科学（computer science）の一分野である。誤解を恐れず平易にいいかえるならば、「これまで人間にしかできなかった知的な行為（認識、推論、言語運用、創造など）を、どのような手順（アルゴリズム）とどのようなデータ（事前情報や知識）を準備すれば、それを機械的に実行できるか」を研究する分野である。」
ロボットはAIではない。ロボットはAIを使うモノだ。
機械学習はAIではない。しかし、機械学習はAIの要素として使われている。
確立された技術はAIと呼ばれなくなる。Deep Learningであっても、今後さらに普及して認知されれば、AIと呼ばれなくなるだろう。
今のところ、AI自身がプログラマーになることは全くと言っていいほどできていない。
AGIの構築という面で言えば、様々なタスクを解決できる特化型AIを複数並列に連結させるだけで、AGIができるというわけではない。
研究者の中央値としては、2040年代頃にはAGIができるのではないかと思われている。
ロボットはAIではない。ロボットはAIを使うモノだ。
機械学習はAIではない。しかし、機械学習はAIの研究の中で使われている。
確立された技術はAIと呼ばれなくなる。例えば、Deep Learningがさらに発展に世間に認知されれば、将来AIと呼ばれなくなるだろう。
今のところ、AIはプログラミングは全くと言っていいほどできない。
機械学習アルゴリズムを複数並列に連結させれば、AGIができるというわけではない。
研究者の中央値としては、2040年代頃にはAGIができるのではないかと思われている。
「https://www.slideshare.net/wba-initiative/agi-105454822」より引用
AGIの詳細や具体的な研究の状況については以下の資料も参考になる。
コメント