2024年5月16日 (木曜日)

Googleの生成AIシステムによる合成文の電子透かしツール

下記の記事が出ている。

 Google Expands Synthetic Content Watermarking Tool to AI-Generated Text
 infosecurity: 15 May, 2024
 https://www.infosecurity-magazine.com/news/google-synthid-ai-text/

現実には,電子透かし技術は,ほとんど無力だ。

ブラウザで表示可能なテキストである限り,プレーンテキストのソースだけ抜き出し,または,プレーンテキスト文として編集することが可能であり,そのようなことが自動的には実行できないような環境が存在したとしても,眼で読み,手で入力して,オフラインでテキストを複製することが常に可能なので,その意味で,この種の問題に関し,電子透かし技術は常に無力だ。

生成AIによる合成画像に関しても,モニタの画面表示を別のカメラ(特に非デジタルのアナログ式カメラ)で写真に撮り,オフラインで編集すれば,元の合成画像の中に含まれている全ての電子透かしを無力化することができるので,やはり電子透かし技術は常に無力だ。

対処方法としては,研究室等の中だけに限定された調査研究目的による場合などを除き,生成AIサービスの提供及び利用を原則として禁止し,違反行為に対する重罰を導入することしかないと考えられる。

Googleの非常に優れた経営陣がそのことを知らないはずがないので,各国のAI対応法案による制裁を逃れるための工夫の一種に過ぎないのではないかと考えられる。

私は,この種の問題への対処としての電子透かしの有用性を信じていない。

***

私の担当科目においてオンラインで提出させている小テストの回答の中にも自動生成によるものではないかと疑われるものが含まれることがある。

内容的に粗悪なものである場合には,特に対処を検討することなく,単純に0点として採点している。

内容的にそれなりにまとまりのあるものである場合,提出者と個別に面談して質問し,即座に合理的な回答ができない場合には非違行為として判定し,大学の学則に定める処分を検討しようと考えている。

どちらであるのかが明確ではない場合(特に,レガシーな方法の一種として,人間による回答用テンプレートを使いまわしているような場合)には,警告をした上で,様子を見ることにしている。警告に従わないときは,大学の学則に定める処分を検討しようと考えている。

生成AIとは無関係な,人間による単純な著作権法違反行為は普通に存在するので,そのような違法行為に対しても同様の対処をしている。

明治大学の場合,著作権法違反行為のような違法行為があった場合,所定の手続を経て,明治大学の情報システムへのアクセス資格が停止または取消されることがある。
その場合,授業の連絡等を受けることができなくなり,また,レポートの提出等ができなくなる。当該非違行為のあった科目に限定されず,明治大学の情報システムへのアクセス資格が全面的に停止または取消となるので,当該年度における他の科目も自動的に受講不能となり,当該年度に取得すべき単位の取得ができなくなる。その結果として,卒業年度の場合には,卒業に必要な単位を取得できなくなり,留年ということがあり得る。

 

| | コメント (0)

2024年5月14日 (火曜日)

AIにより自動的に生成されたコードがオープンソースに含まれているという問題

下記の記事がない。

 AI-Generated Code: A New Link in the Software Supply Chain
 DARK Reading: May 13, 2024
 https://www.darkreading.com/vulnerabilities-threats/ai-generated-code-a-new-link-in-the-software-supply-chain

AIにはもともと知性や理性というものが存在し得ない。違法なコード生成処理であっても「反対動機」を形成して自己抑制するということがない。

この記事及びその中で参照されている報告書でも触れられているとおり,例えば,第三者が権利を保有している著作物の全部または一部を違法複製して自動的にコードを生成する行為を「著作権法に違反する違法行為である」と認識して自動的に停止してしまうような法令遵守機能のような自動処理機能はない。

AIは「知能」ではないので,当然の結果だと言える。

そのような自動的に生成された違法なコードがオープンソースの一種として組み込まれているソフトウェア製品であるかどうかを自動的に監視し,違法なコードを自動的に削除してしまうような仕組みは現在のところ実用化されているとは言えない。

「artificial intelligence」という語を廃止して,単に「automated processing」という語だけを使用するようにしたほうが良いと考えられる。

 

 

| | コメント (0)

2024年5月13日 (月曜日)

Europolのサーバがハックされた?

下記の記事が出ている。

 Threat Actor Claims Major Europol Data Breach
 infosecurity: 13 May, 2024
 https://www.infosecurity-magazine.com/news/threat-actor-europol-data-breach/

 

| | コメント (0)

2024年5月12日 (日曜日)

Telit Cinterion modems

下記の記事が出ている。

 Millions of IoT Devices at Risk from Flaws in Integrated Cellular Modem
 DARK Reading: May 11, 2024
 https://www.darkreading.com/ics-ot-security/millions-of-iot-devices-at-risk-from-flaws-in-integrated-cellular-modem

 

 

| | コメント (0)

2024年5月 8日 (水曜日)

米国:エネルギー省が生成AIのリスクに関する検討結果を公表

下記の記事が出ている。

 Feds: Reducing AI Risks Requires Visibility & Better Planning
 DARK Reading: May, 2024
 https://www.darkreading.com/cyber-risk/reducing-ai-risks-requires-visibility-and-better-planning

連邦政府エネルギー省(the US Department of Energy (DoE) )による正式の公表記事は下記のところにある。

 DOE Announces New Actions to Enhance America’s Global Leadership in Artificial Intelligence
 Department of Energy: April 29, 2024
 https://www.energy.gov/articles/doe-announces-new-actions-enhance-americas-global-leadership-artificial-intelligence

 

| | コメント (0)

2024年5月 7日 (火曜日)

DHCP starvation attack

下記の記事が出ている。

 Why Your VPN May Not Be As Secure As It Claims
 Krebs on Security: May 6, 2024
 https://krebsonsecurity.com/2024/05/why-your-vpn-may-not-be-as-secure-as-it-claims/

 

| | コメント (0)

2024年5月 4日 (土曜日)

スウェーデンに対するサイバー攻撃

下記の記事が出ている。

 Hackers Target New NATO Member Sweden with Surge of DDoS Attacks
 infosecurity: 2 May, 2024
 https://www.infosecurity-magazine.com/news/nato-sweden-surge-ddos-attacks/

 

 

| | コメント (0)

2024年5月 1日 (水曜日)

USB経由のサイバー攻撃は現在でも現役?

下記の記事が出ている。

 To Damage OT Systems, Hackers Tap USBs, Old Bugs & Malware
 DARK Reading: May 1, 2024
 https://www.darkreading.com/ics-ot-security/to-damage-ot-systems-hackers-tap-usbs-old-bugs-and-malware

 

| | コメント (0)

2024年4月30日 (火曜日)

Grigory Tsaregorodtsev

下記の記事が出ている。

 Russian FSB Counterintelligence Chief Gets 9 Years in Cybercrime Bribery Scheme
 Krebs on Security: April 22, 2024
 https://krebsonsecurity.com/2024/04/russian-fsb-counterintelligence-chief-gets-9-years-in-cybercrime-bribery-scheme/

 

 

| | コメント (0)

2024年4月29日 (月曜日)

フィリピンに対するサイバー攻撃が激化?

下記の記事が出ている。

 Philippines Pummeled by Assortment of Cyberattacks & Misinformation Tied to China
 DARK Reading: April 27, 2024
 https://www.darkreading.com/cyberattacks-data-breaches/philippines-pummeled-by-assortment-of-cyberattacks-tied-to-china

 

| | コメント (0)

より以前の記事一覧