生成AIを悪用した偽報道映像の拡散など

問題になっている事例があるようなのだが，当然のことながら，事案により，威力業務妨害罪または偽計業務妨害罪が成立する。

所管する警察当局は，どんどん検挙すべきだ。

なお，大学のレポートの提出等においても，生成AIを悪用した事例が問題とされることがある。
そのような事案類型に関してもまた，公正な成績評価業務を妨げていることが明々白々なので，原則として，偽計業務妨害罪が成立する。当該学生は，1年～2年程度服役して反省すべきだろうと思う。

＊＊＊

当該虚偽内容のコンテンツを自動生成した生成AIシステムまたは生成AIサービスの運営者の法的責任も問題となり得る。

証拠によって故意が認定可能な事例では，共同正犯または幇助犯の成立を認めることが可能だろう。

証拠によって故意が認められない事例でも，実質的な被害を受けた者に対する（不法行為を原因とする）損害賠償責任を負うことはあり得る。

このような法的責任を免れるためには，悪用の恐れがあるコンテントの自動生成を自動的に検出し，そのサービスの提供を停止するような自動的な仕組みを導入する必要がある。「人工知能だ！」と標榜する以上，そのような自動停止機能を完全に実装でるはずであり，それを実装できないときは，「知能」ではないものを「知能」の一種としてサービス提供し，対価の支払いを受ける詐欺商売として，関係当局から業務停止等の措置命令を受けるべきだ。「知能」である以上，違法行為に悪用されるおそれがあるときは，自動的に察知し，反対動機を自動的に形成し，機能停止となるような能力をもっていなければならない。そうでないものは，そもそも「知性」も「理性」も「倫理観」も全くないサービス提供だということになる。
無論，現実にはそのような法の運用は実行されていないが，それは，関係当局の現時点における担当者の無知・無能に起因するものなので，時間の経過と経験値の蓄積に伴い，そのような問題がいずれ解消され，適正に警察権限及びそれ以外の行政権限が発動されるときがくるだろうと予測している。