ニューラルネットワーク（AI技術の一種）を汚染し，そのニューラルネットをマインドコントロールしてしまうマルウェア？

下記の記事が出ている。

　New Trojan Malware Could Mind-Control Neural Networks
　Outer Places: February 23, 2018
　https://www.outerplaces.com/science/item/17872-neural-networks-ai-trojan

（余談）

例えば，最適な投資先を計算するためのAIシステムがニューロコンピュータ技術を基礎としている場合，そのシステムを構成するニューロンに相当する単位の電子部品またはプログラムを外部から意図的に操縦可能であるとすれば，そのシステムから計算結果として出力される指示を利用している金融商品顧客とそのサービスを提供しているプロバイダ（金融機関，投資企業等）が壊滅的な大打撃を受けることがあり得る一方で，そのような無権限操作による誤った出力を正しいものとしてその顧客に信じさせることにより，そのそうな無権限操作を行った者が巨利を得るということがあり得る。

しかも，そのようなプロセスがプログラムを用いた高頻度アルゴリズム取引技術によって実行される場合，現実問題として，取引市場の健全性と安全性を確保することは，基本的に不可能なこととなる。

しかし，AIを応用する技術開発またはその技術を用いるサービス提供において，どの程度まで情報セキュリティの重要性が理解されているかについては，かなり厳しい見方をせざるを得ない。特に，セキュリティ企業がＡＩにおける判断処理プロセスの汚染というタイプの攻撃に対する有効な防御手法をもっていないということが致命的な脆弱性となる。AIシステムの仕様によっては，セキュリティ機能を付加することが判断プロセス処理の正当性を損なう直接の原因となり得るため，防御措置を講ずるできない場合があるということにも留意しなければならない。