5. サイバーセキュリティの高度化に関する研究
5.1. ホームIoTにおけるサイバーセキュリティの高度化に関する研究
5.1.1. ホームIoT におけるユーザ行動のセンシング情報を用いた異常検知手法
近年、各家庭において、ホームIoT (Internet of Things)機器と呼ばれる様々な機器がインターネットに接続するようになった。インターネットに接続する機器が増えるにつれ、それらの機器を狙った攻撃が発生するようになり、ホームIoT機器の攻撃の対策は急務である。特に、ホームIoT機器の不正操作については、従来からインターネットに接続されていたパーソナルコンピュータ等の機器とは異なり、生命の危機に直結する可能性もあり、それらの攻撃への対応は重大な課題となっている。しかしながら、ホームIoT機器の操作は機器操作に用いられる通信プロトコルに従って行われるため、不正操作時に流れるパケットはユーザが当該機器をネットワーク経由で操作した際に流れるパケットとの差がなく、既知の不正パケットとのパターンマッチング等の従来の攻撃検知手法での検出は困難である。そこで、本研究では、ホームネットワークに接続された機器に対する不正操作を検出するための新たな手法を提案している。この手法では、時刻やセンサー等で観測された温度等の環境ごとに、ユーザが機器操作を行う順を学習する。そして、機器操作が行われた際には、学習されたその環境下での機器操作の順と照合し、不一致であれば不正操作と検出する。我々は、本提案手法の精度について評価をするとともに、検知精度を向上させるために、ユーザが機器操作をする状況をより正確に推定するための家庭内の状況を把握する手法の検討や、他家庭の操作情報を活用することにより学習データの不足に対応する手法の検討を進めている。
[関連発表論文]
- Masaaki Yamauchi, Yuichi Ohsita, Masayuki Murata, Kensuke Ueda, and Yoshiaki Kato, “Anomaly Detection in Smart Home Operation from User Behaviors and Home Conditions,” IEEE Transactions on Consumer Electronics, vol. 66, pp. 183–192, May 2020.
- Masaaki Yamauchi, Yuichi Ohsita, and Masayuki Murata, “Platform Utilizing Others’ Behavior Data to Detect Anomalous Operation Hiding Private Information,” in Proceedings of 7th IEEE International Conference on Consumer Electronics, (Taoyuan, Taiwan), September 2020.
- Masaaki Yamauchi, Masahiro Tanaka, Yuichi Ohsita, Masayuki Murata, Kensuke Ueda, and Yoshiaki Kato, “Modeling Home IoT Traffic using Users’ in-Home Activities for Detection of Anomalous Op-erations,” in Proceedings of 32nd International Teletraffic Congress (ITC32) - PhD workshop, (Osaka, Japan), September 2020.
5.2. 機械学習にもとづくマルウェア検知システムに関する研究
5.2.1. 機械学習にもとづくマルウェア検知システムにおけるモデル更新時の検証方法に関する研究（NTTセキュアプラットフォーム研究所との共同研究）
機械学習にもとづくマルウェア検知システムにおいて、検知精度を高く維持するには、機械学習モデルを定期的に更新することにより、正規のソフトウェアやマルウェアが特性の移り変わりに対応することが必要となる。このような機械学習モデルの更新を行う際には、モデルの更新後に、適切なモデルが構成できているのかを検証する。従来、このような検証においては、別途準備したテストデータを用いて検知精度を算出することにより行われてきた。しかし、検知精度のみを用いた検証では、機械学習モデルが、どのような特徴を学習して更新したのかといった詳細な情報を得ることができず、また、検知精度が向上していたとしても、そのテストデータ以外のデータに対しても同様の性能が期待できるのかといった点については確認することができない。 そこで、本研究では、機械学習にもとづくマルウェア検知システムにおいて、モデル更新を行った際に、どのような更新が行われたのかを詳細に分析、モデル更新の検証を可能とする手法を検討している。具体的には、機械学習モデルにおいて、当該モデルの各データの判別において重要な役割を果たす特徴量に注目し、モデル更新前後で、同一データの判別において重要度が大きく変化した特徴量を求める。これにより、モデルの更新によって、重要視されるようになった特徴量や、重要ではなくなった特徴量を把握することができる。
本研究では、androidにおけるマルウェアのデータセットを用い、マルウェア判別用機械学習モデルの更新を行い、上記の手法によるモデル更新の分析を行い、わずかであるが、その後のマルウェア検知性能に影響を与えるようなモデルの変化をとらえることができることを示している。
[関連発表論文]
- Fan Yun, Toshiki Shibahara, Yuichi Ohsita, Daiki Chiba, Mitsuaki Akiyama, Masayuki Murata, “Un-derstanding machine learning model updates based on changes in feature attributions,” 情報処理学会CSEC 研究会, December 2020.
- Fan Yun, “Understanding machine learning model updates in malware detection systems based on feature attribution changes,” Master’s thesis, Graduate School of Engineering, Osaka-University, January 2021.
5.2.2. 機械学習モデルに対する攻撃とその対策に関する研究
機械学習は様々な分野での活用が進められており、工場での異常検知や制御、農業、水産業などにおいても活用されるようになってきた。一方で、機械学習モデルが攻撃対象となるリスクも高まっており、機械学習が誤認識をするような入力データを生成する敵対的サンプルと呼ばれる攻撃については、その影響の大きさから注目され、攻撃の可能性の検証や対策手法の検討が進められているものの、未だ、根本的な対策が可能な手法は確立されていない。本研究では、特に、工場などの多数のセンサーからの情報を統合的に機械学習によって処理を行うような場面について焦点を当て、機械学習モデルに対する攻撃とその対策について研究を進めている。多数のセンサーからの情報を統合的に扱う場面を考えると、センサーのうち、一部のセンサーに脆弱性があり、そのセンサーを起点として、センサー値の盗聴、センサー値の改ざんをするといった攻撃が考えられる。本研究では、そのような一部のセンサーを起点とした攻撃により、機械学習モデルの判別に影響を与えることが可能であるのかを検証し、対策手法について議論を進めている。
[関連発表論文]
- Yukiko Tsunoda, “On an adversarial example attack by partially monitoring and tampering input fea-tures to machine learning models; its possibilities and countermeasures,” Master’s thesis, Graduate School of Information Science and Technology, Osaka-University, January 2021.