6. サイバーセキュリティの高度化に関する研究

6.1. 機械学習モデルに対する攻撃とその対策についての研究

6.1.1. 多数のセンサからの情報を入力として用いる機械学習モデルに対する攻撃とその対策についての研究

　近年、深層学習に基づく機械学習モデルが広く使われるようになっており、多数のセンサデバイスからの情報を統合して、何等かの判断を機械学習で行うなど、高度な社会の実現が期待されている。一方で、機械学習モデルが、攻撃に対して脆弱であることを示す研究も進められており、攻撃者は機械学習モデルに基づくシステムの性能を低下させる可能性があることが示唆されている。特に、多数のセンサからのデータを統合するような機械学習モデルにおいては、そのうち、一部のセンサに脆弱性が残っているリスクが高くなり、一部のセンサデバイスの侵入を起点として、機械学習モデルが攻撃される可能性がある。本研究では、このような、一部のセンサデバイスへの侵入が起点となった攻撃が実際に可能であるのかについて検証をし、その危険性を明らかにするとともに、そのような攻撃への対策について、検討を進めている。

[関連発表論文]