Microsoftの自動情報収集機能の情報セキュリティ上の懸念と批判

下記の記事が出ている。

　Microsoft Expands Access to Windows Recall AI Feature
　DARK Reading: December 7, 2024
　https://www.darkreading.com/application-security/microsoft-expands-access-windows-recall-ai-feature

＊＊＊

この懸念と批判は正しい。このままだと，世界中の全てのIDやパスワードなどがMicrosoftのデータベース内に自動的に収集される可能性がある。無論，同社内に存在しているロシアや中国の工作員は，それらのデータを悪用して（米軍及びNATO軍，FBI及びCIAを含め）世界中の全ての機関・組織の情報セキュリティの仕組みを破壊することが可能となることだろう。

しかし，この機能は，既に実装・運用されており，機能の実行を阻止しようとするとブラウザ等において劣化したレベルの機能しか提供されないような仕組みが導入されているように見える。

各国の関係当局は，独占禁止法違反行為の有無を調査した上で，もしそうであるとすれば，同社のAI関連のビジネスをそれ以外のビジネスと完全に分離するように企業分割を命じるべき段階にあると考えられる。

Google及びMetaに関しても同じ。

生成AIまたはLLMの訓練のためのデータの自動収集は，それ自体として違法行為であり，特にPCやスマートフォンのようなクライアントマシン上で入力されたデータや閲覧画面等のデータの自動収集と自動学習（訓練のための使用）は，違法性が顕著だと言える。

＊＊＊

現代人は，「法の支配」が喪失した世界の中で生きている。

「約束は守られるべし」との法格言は既に機能していない。

現実存在し得る法理論は処理主義（『ネットワーク社会の文化と法』参照）を基礎とする法理論のみ。

AI技術による自動要約？

当該作品が第三者の著作物である場合，当該第三者の翻案権や編集権を侵害することがあり得る。著作権法に定める例外（強制許諾）の場合を除き，著作権者の許諾なしに第三者の著作物を改変することは違法行為となる。この改変には「要約」も含まれる。

第三者の権利を決して侵害しない仕組みが予め組込まれていない場合，当該自動要約の機能を実行する製品またはサービスは，それ自体として違法物であり，第三者の権利を決して侵害しない仕組み直ちに組込まない限り，全部破壊されるべきである。

ただし，権利侵害の有無の判定は（裁判官の価値判断を基礎とするものなので）非常に難しく，現在のAI技術では自動化不可能な事柄の一つに属する。つまり，現時点では，「第三者の権利を決して侵害しない仕組み」を設計，構築及び運用することは不可能なことだ。

＊＊＊

インターネット上の数あるブログ等の中には既存の著名書籍の内容の一部を要約して組み合わせただけであり，学術的検討結果等を何も含まないものが多数存在するが，それらの大半は違法なコンテントだと考えられる。

著作権者が気付かないために結果的に放置されたような状態となっているため，削除要請や損害賠償請求がないというだけのことだろうと思われる。

＊＊＊

私のオンラインの講義で（電子板書講義の形式により）提供している講義内容がしばしば違法利用されていることは知っている。誰がそしているのかも知っているが，関係諸機関に迷惑をかけるといけないので，大学を退職するまでは訴訟の提起を控えている。

大学当局からオンラインではなく対面の講義として実施するようにと要請のあった科目に関しては，非常に面倒な様々な雑事に対処しながら，どうにか対面講義として実施している。

そのような対面講義において，講義案の提供はないのかと質問を受けることがある。

あるわけがないではないか。

偽学生が受講している可能性があり，そのような偽学生または第三者から依頼を受けた正規の受講生が授業内容を録音している可能性があるため，平均的な内容の講義しか提供していない。

裏切者やスパイのような受講者が存在する限り，私しか理解していない最先端の知見は提供しないことにしている。

著作権侵害を主張する電子メールの送付によるスピアフィッシング

下記の記事が出ている。

　Fake Copyright Infringement Emails Spread Rhadamanthys
　DARK Reading: November 7, 2024
　https://www.darkreading.com/cyberattacks-data-breaches/fake-copyright-infringement-emails-rhadamanthys

＊＊＊

他者の知的財産権侵害行為が全くない正しい経営を完全に維持できているのであれば，（裁判所や弁護士等からの真正な電子メールであるような場合を除き）そのような電子メールを無視していることができるはずだ。

しかし，何かうしろめたいことがあると，右往左往し，狼狽し，フィッシングにひっかかることになる。

AI開発に必然的に伴う著作権侵害への対処は可能か？

下記の記事が出ている。

　AI Training and Copyright Infringement: Solutions from Asia
　Tech Policy Press: October 30, 2024
　https://www.techpolicy.press/ai-training-and-copyright-infringement-solutions-from-asia/

MumsnetがOpenAIを相手に提訴

下記の記事が出ている。

　Mumsnet launches first British legal action against OpenAI
　The Times UK: July 18 2024
　https://www.thetimes.com/uk/technology-uk/article/mumsnet-openai-sues-copyright-infringement-cz5hzvf8s

＊＊＊

いわゆる「AIリテラシ教育」の必要性を主張する関係者等の中には，無論，生成AIがそれ自体として違法システムであり得ることを周知するためのリテラシ教育を推進するために活動している運動家も存在するが，そうではなく，生成AIが大量に著作権侵害となる二次利用処理を自動実行するシステムであり，そのような違法な二次利用の自動実行なしには絶対に成立しないシステムだということを理解していないために無思慮に行動している者も存在する。

加えて，生成AIシステムの構築のために大量に収集される著作物の中には（実名のものと仮名のものを含め）大量の個人データが含まれていることが珍しくない。
そのような場合において，EUのGDPRを含め，データ主体（本人）の事前の同意を得ていないのが普通なので，著作権侵害行為と個人データ侵害行為とが同時に発生している例が非常に多い。
（無知のゆえに）そのことを全く理解できない関係者も珍しくない。

後者のような者は，民法上は共同不法行為者となり，刑法上は共同正犯または幇助犯となり得る。

（無知のゆえに）そのことを知らないのは，当の本人だけだ。

日本国の関係省庁（特に当該省庁の大臣）は，そのことを正しく理解できていない。

一般に，生成AIの理論と技術は，他者の著作権に対する侵害が問題とならない数学上のデータや大量の数値だけを処理するためのシステムとして応用されるべきだと考える。

Open AIを相手方とする著作権訴訟の現況に関するWashington Postの記事

下記の記事が出ている。

　The media bosses fighting back against AI — and the ones cutting deals
　Washington Post: May 27, 2024
　https://www.washingtonpost.com/style/media/2024/05/27/ai-media-barry-diller-iac-nyt/

Googleの生成AIシステムによる合成文の電子透かしツール

下記の記事が出ている。

　Google Expands Synthetic Content Watermarking Tool to AI-Generated Text
　infosecurity: 15 May, 2024
　https://www.infosecurity-magazine.com/news/google-synthid-ai-text/

現実には，電子透かし技術は，ほとんど無力だ。

ブラウザで表示可能なテキストである限り，プレーンテキストのソースだけ抜き出し，または，プレーンテキスト文として編集することが可能であり，そのようなことが自動的には実行できないような環境が存在したとしても，眼で読み，手で入力して，オフラインでテキストを複製することが常に可能なので，その意味で，この種の問題に関し，電子透かし技術は常に無力だ。

生成AIによる合成画像に関しても，モニタの画面表示を別のカメラ（特に非デジタルのアナログ式カメラ）で写真に撮り，オフラインで編集すれば，元の合成画像の中に含まれている全ての電子透かしを無力化することができるので，やはり電子透かし技術は常に無力だ。

対処方法としては，研究室等の中だけに限定された調査研究目的による場合などを除き，生成AIサービスの提供及び利用を原則として禁止し，違反行為に対する重罰を導入することしかないと考えられる。

Googleの非常に優れた経営陣がそのことを知らないはずがないので，各国のAI対応法案による制裁を逃れるための工夫の一種に過ぎないのではないかと考えられる。

私は，この種の問題への対処としての電子透かしの有用性を信じていない。

＊＊＊

私の担当科目においてオンラインで提出させている小テストの回答の中にも自動生成によるものではないかと疑われるものが含まれることがある。

内容的に粗悪なものである場合には，特に対処を検討することなく，単純に0点として採点している。

内容的にそれなりにまとまりのあるものである場合，提出者と個別に面談して質問し，即座に合理的な回答ができない場合には非違行為として判定し，大学の学則に定める処分を検討しようと考えている。

どちらであるのかが明確ではない場合（特に，レガシーな方法の一種として，人間による回答用テンプレートを使いまわしているような場合）には，警告をした上で，様子を見ることにしている。警告に従わないときは，大学の学則に定める処分を検討しようと考えている。

生成AIとは無関係な，人間による単純な著作権法違反行為は普通に存在するので，そのような違法行為に対しても同様の対処をしている。

明治大学の場合，著作権法違反行為のような違法行為があった場合，所定の手続を経て，明治大学の情報システムへのアクセス資格が停止または取消されることがある。
その場合，授業の連絡等を受けることができなくなり，また，レポートの提出等ができなくなる。当該非違行為のあった科目に限定されず，明治大学の情報システムへのアクセス資格が全面的に停止または取消となるので，当該年度における他の科目も自動的に受講不能となり，当該年度に取得すべき単位の取得ができなくなる。その結果として，卒業年度の場合には，卒業に必要な単位を取得できなくなり，留年ということがあり得る。

AIにより自動的に生成されたコードがオープンソースに含まれているという問題

下記の記事がない。

　AI-Generated Code: A New Link in the Software Supply Chain
　DARK Reading: May 13, 2024
　https://www.darkreading.com/vulnerabilities-threats/ai-generated-code-a-new-link-in-the-software-supply-chain

AIにはもともと知性や理性というものが存在し得ない。違法なコード生成処理であっても「反対動機」を形成して自己抑制するということがない。

この記事及びその中で参照されている報告書でも触れられているとおり，例えば，第三者が権利を保有している著作物の全部または一部を違法複製して自動的にコードを生成する行為を「著作権法に違反する違法行為である」と認識して自動的に停止してしまうような法令遵守機能のような自動処理機能はない。

AIは「知能」ではないので，当然の結果だと言える。

そのような自動的に生成された違法なコードがオープンソースの一種として組み込まれているソフトウェア製品であるかどうかを自動的に監視し，違法なコードを自動的に削除してしまうような仕組みは現在のところ実用化されているとは言えない。

「artificial intelligence」という語を廃止して，単に「automated processing」という語だけを使用するようにしたほうが良いと考えられる。

テネシー州：Elvis Act

下記のとおり公報されている。

　Gov. Lee Signs ELVIS Act Into Law - Tennessee First in the Nation to Address AI Impact on Music Industry
　Office of Governor: March 21, 2024
　https://www.tn.gov/governor/news/2024/3/21/photos--gov--lee-signs-elvis-act-into-law.html

ディープフェイク音楽のスタートアップVoicifyに対する本格的な訴訟

下記の記事が出ている。

　‘Deepfake’ music start-up Voicify in copyright row
　The Times UK: March 18, 2024
　https://www.thetimes.co.uk/article/deepfake-music-start-up-voicify-in-copyright-row-q2bsg2ql5

　AI vocal cloning app Voicify offers 3,000 deepfake models to replicate artists’ voices. Now it faces legal action from the UK’s music industry
　Music Business World Wide: March 18, 2024
　https://www.musicbusinessworldwide.com/jammable-formerly-known-as-voicify-offers-3000-ai-models-to-clone-artists-voices-now-it-faces-legal-action-from-the-uks-music-industry12/