« 2024年5月 | トップページ

2024年6月25日 (火曜日)

niftyのチャットボットは完全に無能

目下,niftyのWEBメールサイトに接続できない障害が発生している。

そこで,niftyのサポートページでチャットボットに質問してみたが,全く役にたたなかった。

消費電力がもったいないので,チャットボット機能を完全に消去したほうが良いと思う。

 

 

| | コメント (0)

RedJuliett

下記の記事が出ている。

 China-Based RedJuliett Targets Taiwan in Cyber Espionage Campaign
 infosecurity: 24 June, 2024
 https://www.infosecurity-magazine.com/news/china-redjuliett-targets-taiwan/

 

 

| | コメント (0)

米国:半導体産業政策

下記の記事が出ている。

 Congress floats measure to block Chinese chipmaking equipment
 SC Magazine: June 21, 2024
 https://www.scmagazine.com/news/congress-floats-measure-to-block-chinese-chipmaking-equipment

 Why Biden’s chips policy is backfiring
 The Hill: June 60, 2024
 https://thehill.com/opinion/technology/4731031-why-bidens-chips-policy-is-backfiring/

いずれも対中国政策という側面から書かれた記事だが,中国だけを見ているわけではない。電子産業上の米国の優位を確保・維持することを目的とする手段としての産業政策なので,中国以外の国家であっても米国の優位を脅かすことになれば警戒される。

| | コメント (0)

2024年6月24日 (月曜日)

Radaris

下記の記事が出ている。

 KrebsOnSecurity Threatened with Defamation Lawsuit Over Fake Radaris CEO
 Krebs on Security: June 20, 2024
 https://krebsonsecurity.com/2024/06/krebsonsecurity-threatened-with-defamation-lawsuit-over-fake-radaris-ceo/

 

| | コメント (0)

2024年6月23日 (日曜日)

CISA CSATの問題

下記の記事が出ている。

 Chemical Facilities Warned of Possible Data Exfiltration Following CISA Breach
 infosecurity: 21 June, 2024
 https://www.infosecurity-magazine.com/news/chemical-exfiltration-cisa-breach/

 

| | コメント (0)

謎のメッセージツール

(製品の表示上では)日本国内に本社のある某会社の製品を購入してインストールしたところ,同社から多数のスパムメールが届いた。拒否の設定にしたのだが,どんどん届く。しかも,通常のスパムフィルタを通過してしまう。

そこで,その製品の使用を諦め,代金を損したのは自分の選択が誤っていたからだと反省し,その製品をアンインストールした。

以上のようにして,深刻な問題のある企業の製品をアンインストールし,当該製品のモジュールを全て消去した。Windowsの表示上ではアンインストールが成功しており,探してみても残存モジュールが存在しないように見える。

それにも拘わらず,当該製品の製品アップデート通知なるものが私のPCに直接に届く。全部アンインストールしたのに「アップデート通知」とは一体どういうことなのか?

個人のPC等とどのような場合でも直接に通信するスパイウェアのようなものがあるのかもしれないし,Windowsの脆弱性を利用した不正アクセスをしているのかもしれないと思った。これは,通常のセキュリティ製品では対処できない問題のように見える。

そこで,更に丁寧に調べてみたところ,製品全部のアンインストールをしても当該製品のアップデート通知の機能がWindows本体の中に保存されたままとなるようになっていることが判明した。

OSを提供しているMicrosoft社は,必要な調査を実施した上で,適正に対処すべきだと思っている。

少なくとも,Windowsのアンインストール機能には欠陥があり,または,既にインストールしたアプリなどの製品を完全にアンインストールすることができないのに完全にアンインストールできるかのような虚偽内容の製品機能表示をしていることになる。

***

今後,この会社と同一または類似のポリシーを表示している日本企業に関しては,最初から一切信用しないことにした。

消費者庁及び総務省は,詳細に調査した上で,特に消費者である顧客に対して著しい不利益を与えている場合には,原則として,「禁圧」の方針を採用すべきだと思う。

一般論として,受信拒否なりオプトアウトなりの手順を履んでいるのに商業目的のための宣伝広告を継続する企業は全て違法企業であり,関連法令に基づく厳重な行政措置(業務停止等)または罰則の適用を受けるべき企業だ。

 

[追記:2024年6月23日18:45]

その後,アップデート通知のメニュー表示の中から問題の製品の項目が消えていた。Windowsのクラウド側で何か対処したのか,または,Microsoftが私のPCに直接アクセスして何かいじったのか,そのいずれかだろうと思う。

いずれの場合であっても,エンドユーザの秘密は守られない。

クラウド型のOSでは必然的にそうなるので,用心のため,真に重要な仕事は紙とペンだけで仕事している。

 

 

 

 

| | コメント (0)

2024年6月22日 (土曜日)

米国:Kasperskyの製品の販売禁止

下記の記事が出ている。

 US Bans Kaspersky Over Alleged Kremlin Links
 infosecurity: 21 June, 2024
 https://www.infosecurity-magazine.com/news/us-bans-kaspersky-kremlin-links/

 

[追記:2024年6月23日]

関連記事を追加する。

 Kaspersky's US Customers Face Tight Deadline Following Govt. Ban
 DARK Reading: June 22, 2024
 https://www.darkreading.com/cybersecurity-operations/kaspersky-us-customers-deadline-govt-ban

 

| | コメント (0)

2024年6月21日 (金曜日)

NIST CSF 2.0

下記の記事が出ている。

 Catching Up on Innovation With NIST CSF 2.0
 DARK Reading: June 20, 2024
 https://www.darkreading.com/vulnerabilities-threats/catching-up-on-innovation-with-nist-csf-2-0

 

| | コメント (0)

2024年6月18日 (火曜日)

米国:ロサンゼルスで医療関連の個人データの大規模流出が発生したらしい

下記の記事が出ている。

 Los Angeles Public Health Department Discloses Large Data Breach
 infosecurity: 17 June, 2024
 https://www.infosecurity-magazine.com/news/los-angeles-health-data-breach/

 

 

| | コメント (0)

モバイル契約の際の本人確認方法としてマイナンバーカード使用義務化?

下記の記事が出ている。

 【速報】携帯契約の本人確認、マイナンバーカードの読み取り義務化へ 運転免許証などの券面確認は「廃止」
 niftyニュース(TBS): 2024年06月18日
 https://news.nifty.com/article/domestic/government/12198-3128875/

他に本人確認の方法がないのであれば仕方がないかもしれない。しかし,たぶん,大手のクレジットカードのほうがずっと信頼性が高い。マイナンバーに関しては,その情報の大部分が既に某超大国に流出していると推定されるので,信頼性は低いと言える。そのような状況にあるのにもかかわらず強行すれば,比例原則に反する。

日本に居住する外国人の中でマイナンバーも保有している人がどれだけいるのかわからないが,義務化すると,もともとマイナンバーをもたない人はモバイルの契約ができなくなる。つまり,国籍による差別を(公務員の憲法遵守義務に違反して)強行することになる。無論,正当性と相当性があるときは異なる取扱いが許されることはあり得るのだが,外国人だというだけの理由により日本国内ではモバイルの契約を一切できなくしてしまうことに正当性及び相当性があるとは思われない。

モバイルのサービスを提供する企業は日本企業だけではない。米国やEU諸国の企業に対してマイナンバーカードの読取装置等の設置及び関連システムへの接続を強制することが国際的な経済摩擦に発展する危険性は極めて大きい。

だから,本人確認のための唯一の手段として義務化してはならないのだ。

***

詐偽行為等の防止のために本人確認の方法を強化しなければならないという説明があるようなのだが,それ自体は間違っていないとしても,どこかおかしい。

本人確認と関連する法令を制定した際,政府は,その法令によって指定された方法によって「本人確認は万全だ」と豪語していた。それが明白に間違いだったことを認め,当時の閣僚等を全員退任させて責任をとらせた上でそのように言うのであればまだしも,誰も責任をとらない。

それゆえに言えることがある。それは,仮にマイナンバーカードによる本人確認を義務づけてもやはり同じことになるということだ。もしそうなっても,関係閣僚が責任をとり,政治家を廃業することはないだろう。

「本当は,どのような方法によっても完全な本人確認はできない」という当たり前のことを理解できていないということに尽きる。

そもそも「本人」を定義することは非常に難しいことで,普通の企業担当者や行政官や学者には全く無理な高度な知的処理を必要とする。そのことは既に幾つかの論文等で既に書いているのだが,現在のところその意味を理解できてきるのは日本国内では合計数名程度にとどまっている。そういうわけで,「わからない人」に説得しても「わからない」ので説得はしないが,今後どういうことになるかについて明確に予測できる。

しかし,ここで問題とされる「本人」とは,生物としての特定の個体のことではなく,関連証拠等によって存在すると想定される個人なのであって,その実質は個人データの複合による「記憶」の一種に過ぎない。その「記憶」が法的問題の処理の過程において物体としての物理的な生物個体と一致しているかどうかは問題とならず,債務名義の執行等の計算上の清算処理の段階で擬制されるだけというのが真実だ。このことは,我妻榮『民法講義』の時代から既に明確に認識されてきた古典的な事柄の一部なので,無論,私見ではないのだが,大半の法律家はそのようなことが書かれているということをちゃんと読めていないようだ。

いずれにしても,本質を理解しないままでマイナンバーカードによる本人確認を義務化すると,「マイナンバーカードによる本人確認を導入しても結果は全く変わらないかまたは悪化する」+「マイナンバーカードの偽造が大規模に増加する」ということが100%確実に予想される。

このことは,ちゃんと説明されれば中学生程度の知能の者でも完全に理解できることだ。

何しろ相手は,総計で何百万人いるのかもわからない極めて多数の詐欺・偽造を生業としている犯罪者とその集団だ。

一般論として,マイナンバーカードによる認証に一本化すると,環境が単調になるので,偽造方法も統一化され,偽造カードの製造コストが大幅に低減されることになる。

「マイナンバーカードは偽造されない」という「根拠のない自信」によって判断能力が曇ってしまっているので,関係閣僚にはそのことが見えていないのだろう。

しかし,所詮,そもそもカード内の装置は簡易なチップ製品であるし,その製造工場やサプライチェーンの中には既に犯罪者らの手下が多数入り込んでいることが当然に推定されるので,たちまち大量に偽造されてしまうことになると予想しなければならない。

それが一定の法則の応用による製品またはサービスである限り,絶対に解読されない暗号は存在しないし,絶対に偽造されないICチップも存在しない。

もしモバイルを悪用した詐欺事犯を少しでも減少させたいのであれば,優秀な捜査官の実人員数を大幅に増加させること,関連予算を増強すること,詐欺事犯それ自体としての捜査能力(電子的な捜査能力を含む。)を強化すること,外国の捜査機関やEuropol等との連携・協力関係を強化し,リアルタイムで(グローバルな)連携捜査が可能となるような体制を構築し,言語能力を強化し,そのための訓練と実践を日々積むこと,そのような地道な努力の蓄積以外に方法はない。加えて,悪質な詐欺事案に関し,死刑の導入を含め,厳罰化のための法改正が必須だ。

そして,モバイルの追跡だけで被疑者を特定できると安易に考えるレベルの低い捜査官はサイバー犯罪捜査の現場から外してしまわなければならない。

そのように考えるくらいの能力しかないレベルの低い参事官等も罷免してしまうべきだ。

もしかすると,この件の関連閣僚は,頭の悪いアドバイザーまたは何らかの利権がからんでいる悪質アドバイザーから間違ったアドバイスを受け,本質を見抜くことなく,騙されてしまっているのかもしれないとも思う。

 

| | コメント (0)

EUの法令が「成立」したと言えるための絶対条件

EUのAI法案に関し,マスコミを含め,非常に多数の者が誤った情報提供をし続けている。

EUの規則(Regulation)及び指令(Directive)が成立するためには,EU議会の承認議決だけでは足りない。理事会が承認し,EU議会の代表(President)及び理事会の代表(President)が署名したときに法令として内部的に成立する。その後,法令番号が付され,EU官報上で公示された時点で外部的にも成立することになる。

AI法案の三者合意の際に前提とされた正文案に極めて多数の誤りがあるため,その訂正作業が延々と続けられている。EU議会による承認の際に前提とされた正文案にも多数の誤りがあったため,更に訂正の作業が続けられている。この訂正作業が終了し,EUの構成国(Member States)の首脳が同意しなければ,理事会による承認へと進むことができない。現在のところ,訂正作業が完了したとの情報は入手できていないので正確なところが分からないのだが,もし6月中に訂正作業を完了できなければ(夏休みがあるので)9月にずれ込む可能性がある。

そして,正式な法令番号が定められなければEU官報上で公示できない。法令番号が決まっていないために公示されていない法案は,法案なのであって,法令ではないので,発効することもない。発効しなければ適用されることもない。

日本国における立法手続しか知らない者は,基本的なところで理解を誤ってしまうことになるので,この問題に関して発言することを控えるべきだと思っている。うかつに発言すると,「こいつは無知だ」と誤解される危険性がある。

この法案が成立しているのかどうかを調べる方法は簡単だ。EU官報上でEUの法令番号を付された正文が公示されているかどうかを確認し続けるだけで足りる。

ちなみに,最終的な正文は,訂正作業完了後のものとなる。それゆえ,へたに先走って条項の解釈に関する論説等を書くと,正式に公示された後になってから,「どこにそんな条文があるんだ?」との辛辣な突っ込みを受けるリスクはある。

更にちなみに,EUの法令に関しては,正式に公示となった後にも複数の訂正文(corrigendum)が公示された例が多数ある。

 

| | コメント (0)

2024年6月17日 (月曜日)

ZkTeco

下記の記事が出ている。

 Kaspersky Finds 24 Flaws in Chinese Biometric Hardware Provider
 infosecurity: 13 June, 2024
 https://www.infosecurity-magazine.com/news/kaspersky-flaws-chinese-biometric/

「きしみ」かもしれない。

 

| | コメント (0)

生成AIには児童の権利の保護という側面においても深刻な問題がある

下記の記事が出ている。

 AI trained on photos from kids’ entire childhood without their consent
 ars technica: June 11, 2024
 https://arstechnica.com/tech-policy/2024/06/ai-trained-on-photos-from-kids-entire-childhood-without-their-consent/

 

| | コメント (0)

2024年6月16日 (日曜日)

Keep your humanity

下記の記事が出ている。

 How Pope Francis became the AI ethicist for world leaders and tech titans
 Washington Post: June 14, 2024
 https://www.washingtonpost.com/world/2024/06/14/pope-francis-g7-ai/

 

| | コメント (0)

2024年6月15日 (土曜日)

病院へのサイバー攻撃は病院の機能を物理的に破壊する

下記の記事が出ている。

 The Aftermath of a U.K. Cyberattack: Blood Shortages and Delayed Operations
 New York Times: June 13, 2024
 https://www.nytimes.com/2024/06/13/world/europe/nhs-london-hospital-cyberattack.html

***

病院の診療システムや電源管理システム等に対するサイバー攻撃が物理的な全面的破壊の結果をもたらし得ることは当然として,間接的な決済システムの一種である健康保険システムに対してサイバー攻撃が実行された場合,もっと悲惨なことが起きるかもしれない。

一般に,健康保険等の取扱いを完全電子化した場合,それでなくても防御の甘い厚生労働省関連のサーバにサイバー攻撃があったということだけで,日本国の全ての病院及び介護施設等が機能停止することになり得る。

これに対し,全面電子化を断念し,利用者や診療機関の選択により,紙の保険証の利用が温存されていれば,少なくとも個人開業医等の小規模医療機関の機能の全面停止だけは回避し得る。

このことは医療分野に限定されない。

それゆえ,全面的な電子化政策は,「亡国」の促進そのものであると言える。

基本法則として,単調な世界では,単調な攻撃により全破壊がもたらされ得る。

***

同様のことは,生成AIないしLLMでも同じだ。生成AIによって生成される真実とは関係のない虚偽内容のデータが広く流通するようになると,そのような虚偽内容のデータも生成AIシステムは(違法な底引き網漁法と同じように何でもかんでもどんどん捕捉・吸収・複製して)「学習」するため,自己破滅的に全面崩壊が拡大・促進・複合化されることになる。

そのような事態を避けるためには,(仮想現実の技術を含め)真実とは異なる内容のデータの生成を全て禁止するしかないのだが,そうなると,生成AIの「うまみ」のようなものがなくなってしまうので,誰もそうのようにしようとはしないだろう。

他方,違法なデータの出力を自律的(autonomous)に抑止する仕組みはない。生成AIは,知性,理性,倫理観を一切もたない単なる自動処理(automated processing)の仕組みの一種に過ぎない。違法行為に対する反対動機を自動的に生成し,自己抑制する機能はもともとない。つまり,生成AIやLLMは,もともと知能(intelligence)の一種ではない。

結局,生成AIに関し,自己破滅的な全面崩壊を避ける方法はないことになる。

いずれ現実にそうなるときが必ず来る。全ての関連投資が泡沫となって消える。

 

| | コメント (0)

シューベルトのさすらい人幻想曲(リスト編曲版)

シューベルトの「さすらい人幻想曲」op.15, D.760は私の大好きな楽曲の一つだ。

以前,NHK FMの音楽番組の中で紹介されていたので,リスト編曲によるピアノ独奏+管弦楽伴奏版があると知った。

さんざん探した結果、MUZA Rubackyteのピアノ独奏,リトアニア管弦楽団によるライブ演奏を録音したCD(DORON DRC 3077)があることを知り,そのCDを購入した。

とても良い演奏だと思う。

曲それ自体に関しては,変奏曲の最終曲(フーガ)は,原曲とそんなに変わらない。世紀の大天才であるリストでさえ,原曲の作者であるシューベルトに対して敬意を表するしかないほどの完成度の高い楽曲なのだと思う。

このCDには,MUZA Rubackyteの独奏によるバルトークのピアノ協奏曲第3番も収録されている。これもとても素晴らしい演奏だと思う。

この作品それ自体は,バルトークの苦悩を素直に表現した作品なのではないかと思う。その意味で,(別の評価もあるかもしれないが)人間としてのバルトークの内面の表出度が高い作品・・・というのが私自身の主観的評価だ。

 

 

 

 

 

| | コメント (0)

2024年6月14日 (金曜日)

米国:国益重視のAI技術保護政策

下記の記事が出ている。

 Patriotism over profit: The US can’t allow Big Tech to sell out to China
 The Hill: June 13, 2024
 https://thehill.com/opinion/technology/4718714-big-tech-china-ai-dual-use/

 

 

| | コメント (0)

2024年6月13日 (木曜日)

EU:EU議会議員選挙を混乱させるための大規模サイバー攻撃

下記の記事が出ている。

 Dutch cyberattacks latest in EU election campaign marred by disruption and violence
 euronews: 7 June, 2024
 https://www.euronews.com/my-europe/2024/06/07/dutch-cyberattacks-latest-in-eu-election-campaign-marred-by-disruption-violence

 

 

| | コメント (0)

2024年6月11日 (火曜日)

Operation Crimson Palace

下記の記事が出ている。

 Chinese Threat Clusters Triple-Team High-Profile Asia Government Org
 DARK Reading: June 5, 2024
 https://www.darkreading.com/threat-intelligence/chinese-threat-clusters-triple-team-high-profile-asian-government-org

 

| | コメント (0)

2024年6月10日 (月曜日)

EmailGPTの脆弱性

下記の記事が出ている。

 EmailGPT Exposed to Prompt Injection Attacks
 infosecurity: 7 June, 2024
 https://www.infosecurity-magazine.com/news/emailgpt-exposed-prompt-injection/

 

| | コメント (0)

MetaのAIシステムに収集されたデータは削除できないとの指摘-EUの関連法令に違反の可能性

下記の記事が出ている。

 Meta uses “dark patterns” to thwart AI opt-outs in EU, complaint says
 ars technica: June 7, 2024
 https://arstechnica.com/tech-policy/2024/06/meta-to-train-undefined-ai-tech-on-facebook-users-posts-pics-in-eu/

一般に,開発者の立場にたってみると,「自分が学習したんだから,削除する義務などない」ということになりそうだが,自然人の脳内の記憶とコンピュータシステム内の記録保存(strage)とは異なる。

それゆえ,EUの個人データ保護法令でも日本国の個人情報保護法令でも同様に,収集されたデータの削除を求める権利を認めている。

このことは,今後のAI法においても同じとなる見込みであり,個人データについては,AIシステムであろうとなかろうと,とにかくコンピュータによって自動処理されるデータに対しては削除の権利がある。EU法においては,いつでも同意を撤回できる権利を定めているので,このことが一層明確となっている。

加えて.AIシステムによって(法定の除外事由なく)違法に収集され,自動的に複製や改変等の処理が実行されている第三者の著作物に該当するデータだけではなく,適法に収集されたデータであっても,(自然人が暗記した第三者の著作物の内容を生体脳の外に表出するときは,公正な引用の方式によらなければ違法になるし,許諾なく翻案・編集・改変することは全く認めらていないのと同様),生成AIによる処理結果としての出力は,(出典の明記を含め)「公正な引用」の要件を完全に満たさなければならず,その他,著作権法に定める全ての要件を満たさなければならない。

このようなことを他の分野における違法・適法の要件も加えて考えてみると,現在の大規模学習モデル(LLM)は,もし適法に運用しようとすれば,最初から成り立たないやり方だという意味で,本質的に違法なやり方である可能性が高い。

(全く無条件という意味で)自由に収集や改変等が可能なのは,(いかなる法令を適用した場合でも)完全にパブリックドメインとなっているデータだけだ。

また,そのようなあまりにも当然の大前提を全く無視し,LLMには法的問題が全くないという前提で論説を書こうとする弁護士や法学者等が存在する。
しかし,当該の論者が事理弁別能力のない病理的な状態にあるときは治療行為が必要なので除外するとして,それ以外の場合においては,(著作権法違反行為等の)違法行為の教唆行為または幇助行為に該当し得ると解される場合があり得る。
そのような場合には,関連する権利者団体は,断固とした処置をとるべきである。

 

| | コメント (0)

2024年6月 9日 (日曜日)

生成AIを悪用した偽報道映像の拡散など

問題になっている事例があるようなのだが,当然のことながら,事案により,威力業務妨害罪または偽計業務妨害罪が成立する。

所管する警察当局は,どんどん検挙すべきだ。

なお,大学のレポートの提出等においても,生成AIを悪用した事例が問題とされることがある。
そのような事案類型に関してもまた,公正な成績評価業務を妨げていることが明々白々なので,原則として,偽計業務妨害罪が成立する。当該学生は,1年~2年程度服役して反省すべきだろうと思う。

***

当該虚偽内容のコンテンツを自動生成した生成AIシステムまたは生成AIサービスの運営者の法的責任も問題となり得る。

証拠によって故意が認定可能な事例では,共同正犯または幇助犯の成立を認めることが可能だろう。

証拠によって故意が認められない事例でも,実質的な被害を受けた者に対する(不法行為を原因とする)損害賠償責任を負うことはあり得る。

このような法的責任を免れるためには,悪用の恐れがあるコンテントの自動生成を自動的に検出し,そのサービスの提供を停止するような自動的な仕組みを導入する必要がある。「人工知能だ!」と標榜する以上,そのような自動停止機能を完全に実装でるはずであり,それを実装できないときは,「知能」ではないものを「知能」の一種としてサービス提供し,対価の支払いを受ける詐欺商売として,関係当局から業務停止等の措置命令を受けるべきだ。「知能」である以上,違法行為に悪用されるおそれがあるときは,自動的に察知し,反対動機を自動的に形成し,機能停止となるような能力をもっていなければならない。そうでないものは,そもそも「知性」も「理性」も「倫理観」も全くないサービス提供だということになる。
無論,現実にはそのような法の運用は実行されていないが,それは,関係当局の現時点における担当者の無知・無能に起因するものなので,時間の経過と経験値の蓄積に伴い,そのような問題がいずれ解消され,適正に警察権限及びそれ以外の行政権限が発動されるときがくるだろうと予測している。

 

| | コメント (0)

2024年6月 7日 (金曜日)

パリオリンピックの運営に対するサイバー攻撃の脅威

下記の記事が出ている。

 Russia Aims Cyber Operations at Summer Olympics
 DARK Reading: June 4, 2024
 https://www.darkreading.com/threat-intelligence/russia-cyber-operations-summer-olympics

 

| | コメント (0)

2024年6月 4日 (火曜日)

ドイツ: Michael Schumacherに関するAI生成によるインタビュー記事の適法性に関するミュンヘン労働裁判所の判断に対する評価

下記の記事が出ている。

 An official court ruling draws the line on AI use in journalism, but is it enough?
 The Hill: June 3, 2024
 https://thehill.com/opinion/technology/4697542-michael-schumacher-ai-court-ruling-journalism-ethics/

 

| | コメント (0)

2024年6月 3日 (月曜日)

ウクライナ:露軍の戦死者数が累計51万人を超過したらしい

下記の記事が出ている。

 Russia's combat losses in Ukraine rise to 511,130
 ukrinform: 3 June, 2024
 https://www.ukrinform.net/rubric-ato/3870749-russias-combat-losses-in-ukraine-rise-to-511130.html

 

| | コメント (0)

EUのAI法案に対するIBMの姿勢

下記のとおり公表されている。

 The EU AI Act Is About to Hit the Books: Compliance Steps You Need to Know
 IBM: May 30, 2024
 https://www.ibm.com/policy/eu-ai-act-compliance-steps/

 

| | コメント (0)

2024年6月 1日 (土曜日)

AI Chatbotがどの利用者との間の対話内容をAI機能の向上のために利用しているという問題に関するワシントンポストの比較検討的な記事

下記の記事が出ている。

 How to opt out of having your data ‘train’ ChatGPT and other AI chatbots
 Washington Post: May 31, 2024
 https://www.washingtonpost.com/technology/2024/05/31/opt-out-ai-training-meta-chatgpt/

***

そのような仕組みになっているということを知らない利用者や,オプトアウトがほとんど機能していないかもしれないというリスク(=最悪の場合,機能に関する説明が最初から嘘かもしれないというリスク)を脳裏に浮かべることのできない利用者は,それに気づかないまま,例えば,自分が所属する機関・組織の機密情報や企業の知的財産(営業秘密,非公開の特許秘密など)を提供してしまっているかもしれない。

それゆえ,この問題は,個人データ保護やプライバシー保護と関連する問題だけではなく,国家機密の保護や企業秘密の保護の問題も含むかなり大きなリスクの問題だと理解すべきだと思う。

(OEMやアウトソースの場合を含め)Chatbotの機能を提供する企業は,自己の「営利」のために存在しているのであり,「慈善」のために存在しているわけではないので,基本的には,「自己の利益獲得のためには何でもやる」という当たり前のことを理解する必要がある。

***

比喩的に表現すれば,古代の支配者のための「王の目」や「王の耳」のようなものであり得る。

一般に,政治的支配者と同様の現実の力をもつ資本上の支配者(=インターネット上の超巨大プラットフォーマーなど)は,やはり支配者の一種だと言える。

この点において,世界規模で利用されるChatbotの運営企業と各国の議会・議員との間には(実質的な支配力の基礎となる情報収集力において)明らかに,決して乗り越えることのできない非対称性に直面していると言える。

Chatbotの運営企業は,全ての利用者の質問とそれに対する回答のデータを持っている。各国の議会・議員は,Chatbotの運営企業に対して全てのデータを常時提供させる権限をもたない限り何も知らない。

それと同時に,世界規模で利用されるChatbotは,(政治的な事柄に関しても,経済取引に関しても,組織運営に関しても)非常に頻繁に利益相反状態に置かれ得る。
しかし,生成AIシステムには知性も理性も倫理観もないので,人間であれば利益相反が発生するかもしれないというリスクを知覚したときにはそのような事態の発生を避けるための反対動機を生成できるけれども,生成AIシステムがそのような反対動機を自動生成し,一定のリスクのある処理を自動的に停止することはない。

あくまでもブラックジョークとして,選挙候補Aが既に質問した内容と同じ質問をライバル候補Bが同じChatbotに質問した場合,そのChatbotは,「あなたの敵であるAが既に質問したことと同じ内容なので,利益相反を避けるため,答えません」と回答するのが倫理的なのだろうか,「あなたの敵であるAが既に質問したことと同じ内容なので,Aに対してはAが優位と回答しましたが,あなたに対してはBが優位と回答します。私を信用してはなりません」と回答するのが倫理的なのだろうか,(その理由を告げることなく)黙ってしまうのが倫理的なのだろうか,それとも,「近い将来においてライバルである者から同じ内容の質問があるかもしれない」という状況判断的な近未来予測に基づき,どちらから質問を受けても「このようなタイプの質問には回答できません」と回答するのが倫理的なのだろうか・・・?

 

[追記:2024年6月4日]

関連記事を追加する。

 Flawed AI Tools Create Worries for Private LLMs, Chatbots
 DARK Reading: May 31, 2024
 https://www.darkreading.com/application-security/flawed-ai-tools-create-worries-for-private-llms-chatbots

 

| | コメント (0)

« 2024年5月 | トップページ