Secure AI Framework (SAIF)

下記の記事が出ている。

　Google Launches Framework to Secure Generative AI
　infosecurity: 9 June, 2023
　https://www.infosecurity-magazine.com/news/google-framework-secure-generative/

無論，技術的に解決可能な問題はある。

しかし，解決不可能な問題もある。例えば，「全ての企業は（潜在的には）常にカルネアデスの板を争っている」という問題（＝利益相反の防止）は，技術的な解決が不可能な問題の1つだと言える。

一般に，潜在的な利益相反の可能性という問題は，GenerativeAIに固有の問題ではなく，大規模なクラウド企業等が同一のサービスを多数の利用者（個人・企業等）に対して提供することから生ずる。

このことは，政府機関等がそのようなサービスの利用者である場合も同じ。

問題は，AIシステムを意思決定またはその補助的なものとして利用しようとする企業や政府機関が存在することだ。

当然のことながら，潜在的な敵の利用を阻害し，または，潜在的な敵の判断を誤らせるために，国家規模で，何らかのバイアスが生ずるような新たなサイバー攻撃（例：AIシステムの高度な洗脳手法，AIシステムからエンドユーザ間の通信経路のハイジャックと偽情報への全面置き換えなど）が世界的かつ大規模に実行される時代に入る。
後者（特に無線通信による通信経路のハイジャック）に関しては，当該AIシステム側で直接に制御または防御することが不可能な攻撃手法なので，当該AIシステム側としては，当該通信システムの運営者及び利用者に対して警告を出し，その通信経路を物理的に完全に遮断するような仕組みを構築するしかない。