LLMが犯罪やサイバー攻撃の前例（事例）を学習し，学習結果を集積すると・・・

当然のことながら，その手口を自動的に定式化し，再利用可能な状況を自動的に生成することがあり得る。

悪用を防ぐための仕組みが導入されても，サイバー攻撃者達や内部犯罪者は，容易にそのような防護策を破ってしまうことだろう。

人間の捜査官，犯罪学者及び関連領域の研究者，教員等の場合，各人の宗教観，倫理観，道徳観に従い，「悪いこと」をしないということになっているが，現実には，人間社会においては，（涜職，横領または背任のような場合を含め），国家，社会，組織，信頼を寄せている個人等に対する背信行為や裏切り行為は日常茶飯事に発生している。それでも，それぞれの関係者の宗教観，倫理感，道徳観が非常に強い場合には，自律的に「暗黒面」に陥ることがないという状態を維持していると一応言える。

しかし，それは，状況による。遠藤周作の『沈黙』は，そのような人間の弱さのようなものを描いた秀作であると言える。

＊＊＊

AIに関し，AIにも倫理感を植え付けるため，規範に反する行為の事例も学習させるべきだという主張がある。

ところが，そのような学習を実行すると，情報犯罪者にとっても簡易に手口を学習できる生成AIシステムとして機能する事例データベースを自動的に生成することになる。

そのような学習をさせるべきだとの主張をする論者自身は，「自分であれば悪用することはない」または「自分が暗黒面に陥ることはない」という自信があるのかもしれないが，その主張の適用対象は，人間ではない（＝遵法意識も道義心も組織帰属感もない）単なる機械装置なので，当該主張の論者自身のような自信をもつ存在である確率はゼロ。しかも，AI開発をしている者らの中には「金のためには何でもする」というタイプのエンジニアが含まれている可能性があり，そのような者に関しては，例えば，同業他社や情報犯罪者に対して（金や地位などと引換えに）機密のデータセットやモデルを売り渡してしまうことがあり得る。
更に，誤った正義感や信念のために，仮想敵国や同業他社等を利する結果となる行動をしても「それが正義だ」と信じて全く疑わない者も存在する。
換言すると，AIシステムに関して悪用も濫用もないというような期待は，もともと荒唐無稽なものだ。そうではなく，逆に，「必ず悪用または濫用されることになる」ということを前提にものごとを考えなければならない。

一般に，AIには，もともと人格というものがなく，したがって，強固な道徳観も倫理観も規範意識も存在しない。つまり，AIに関しては「性善説」の妥当性を前提にすることが絶対に許されない。

加えて，規範に反する結果を招いた場合における処罰や反動というものがないので，（最小限のものとして利害打算により）反対動機を形成することもない。
人間であれば，最悪の場合，犯罪の実行者として死刑に処されることもある。ところが，AIシステムは，犯罪行為のためにそれが使用されたとしてもシステム全体を物理的に完全に破壊してしまうような制裁法令は存在しない。
正当防衛または緊急避難としてシステムを破壊することの適法性に関しても十分に議論されているとは言えない。

要するに，上記のような主張は，誤っていると言える。

＊＊＊

ここまで述べたことから，企業が生成AIを利用すると，副作用的なものとして，当該企業内の脆弱性要素のデータや非違事例のデータも自動的に蓄積されることになるので，そのようなデータの濫用や悪用が常にあり得るという深刻なリスクの存在を適正に評価する必要がある。

当該生成AIが巨大なAI企業からサービスとして提供されている場合，（当該企業の経営者や従業者が悪人であるときは）それらのデータを悪用または濫用したサイバー攻撃，恐喝，経営陣の企業支配権の譲渡強要などが発生する可能性が十分にある。

そのようなリスクがインシデントとして顕在化した場合，当該企業の製品やサービスの利用者や顧客からの損害賠償請求または刑事告訴等があり得るということも予測しておく必要がある。

警察の手を逃れて海外に逃亡できたとしても，当地のマフィアや関連当局がちゃんと待ち構えているので，逃亡者に安住の地はない。

＊＊＊

基本的に，生成AIでは，同義も仁義も，セキュリティもコンプライアンスも，全部反故にされてしまうことがあり得るということを考えた上で，予防策を講ずることが可能かどうかを検討した上で，予防策を講ずることができない部分に関しては，当該AIシステムの利用を断念するというのが正しい。