2024年7月19日 (金曜日)

SAP AI Coreの脆弱性

下記の記事が出ている。

 SAP AI Core Flaws Expose Sensitive Customer Data and Keys
 infosecurity: 18 July, 2024
 https://www.infosecurity-magazine.com/news/sap-ai-core-expose-customer-data/

 

| | コメント (0)

2024年7月16日 (火曜日)

生成AI時代の出題方法

生成AIを使用して自動生成した答案や回答文などを提出する例が世界各国で報告されている。国によっては犯罪行為として捜査の対象となった例もあるようなのだが,例えば,大学におけるオンラインによるレポート提出等においてそのような行為が実行された場合,明らかに業務妨害罪を構成するので,悪質な事例に関しては直ちに刑事処罰を検討すべきだろう。

それはさておき,AIに対抗するための最善の方法は,自然人が同じようなアウトプットを提出した場合でも0点とする方法を考えることだ。

例えば,文脈理解や深層理解をすることなく,あるいは,前提条件である大量の資料や講義案を全部読んで理解することなく,講義を全く受けなくても誰でも書ける一般論を書いたレポートや答案が提出された場合,提出された文それ自体としては正しい内容が書かれていたとしても,(AIによる場合でも自然人の脳による場合でも)一律に0点とするという方法がある。

生成AIは,簡単な文脈理解ならできることがあり,特に,一定の既知のパターンが存在するときには処理可能なことがある。
だが,生成AIの特性を熟考した上で,自動処理によっては絶対に特定された解析結果を出力できないようにする特別の条件設定は可能であり,そのような条件設定を常に考案し続けている。これは,生成AIが全く機能しようがないパターンの発見の努力の蓄積にほかならない。

このような方法を現実に実施している。

このような出題を実現するためには,(不意打ちを避けるため)「当該講義内容を完全に理解し,その理解を踏まえて視点を絞った答案またはレポートを提出すること」を求めていることを事前に明示することが大事だ。
ただし,そのような条件が明示されているということを受講生が読み取って理解できるだけの日本語処理能力をもっているかどうかは別なのだが,一般的な法学部学生の能力として要求される日本語処理能力のレベルを超えているとは考えられない。

加えて,一般に,採点者自身も非常に優秀であり,かつ,精神的・肉体的に相当にタフであることが求められる。

以上のように考え,AIを使用した場合には逆に不利な採点となるような出題文を研究・作成し続けている。

私自身は凡人の一員であり優秀者ではないので,努力の積み重ねによって問題を克服している。

実際に実施し続けてみて,受講生がそのような意図の出題になっていることに気づいているかどうかは分からない。
なぜなら,それ自体としては優秀な答案のように見えるけれども,誰でも書ける一般論しか書いておらず,講義内容を踏まえているとは評価できない答案が提出されるからだ。
予定どおり,講義を受けていなくても誰でも書けるような一般的・概括的な内容だけのものは,生成AIによるものであれ自然人の脳によるものであれ関係なく,一律に0点として成績評価している。
知的能力としては非常に優秀な学生として評価可能な学生であっても,講義内容を踏まえた文を作成できなければ0点と評価する。生成AIからの出力をベースにし,それに手を加えて作成されたものと明らかに推定される文もあり,そのようなものを提出した学生については,単に0点として成績評価するだけではなく,学則上の処分の要否を検討している。

知能テストではなく,(暗記すべき事柄を暗記しているかどうかを点検するための)検定試験でもなく,(個々の受講生が学習した内容を「***を学んだ」方式で復唱させるような)初等教育段階の人を馬鹿にしたようなテスト(または幼稚な「おさらいごっこ」)でもなく,(大学法学部としての講義内容の)理解度テストなので,そのように採点するのは当然のことだ。

半期で1回約2万5000字×実質12回(合計約30万字相当)の講義案の内容を常に頭の中に入れているので,そのような採点を現実に実施することができる。
講義案は,完全にオリジナルのものであり,毎年,必要な箇所を改訂している。

その結果,今年度は大量留年としなければならないかもしれないので,(採点結果を調整すべきかどうかを含め)目下検討中・・・

 

| | コメント (0)

2024年7月11日 (木曜日)

日本データ通信協会・迷惑メール相談センターのサイトは役に立たない

迷惑メールにも様々なタイプのものがある。

それらの中で,例えば,特定のアプリの契約登録のための条件設定の中で「広告メールは必要ない」に設定してあっても全く無視して商業宣伝広告メールを大量に送信してくる企業が結構たくさん存在する。そのような送信行為は,単に債務不履行に基づく損害賠償請求権が成立するというだけではなく,(受信者の立場と状況次第では)刑法上の業務妨害罪も成立する立派な違法行為だ。

しかし,世間に存在する様々な対策サイトのほぼ全部がそのような場合があるということを想定していない。

日本データ通信協会・迷惑メール相談センターのサイトもまた,そのようなタイプの迷惑メール対策のためには全く役にたたない。

関係者は,根本から全部考え直すべきだ。

世間には,最初から約束を守る気のない企業が無数に存在する。

 

| | コメント (0)

2024年7月 6日 (土曜日)

ブラジル:Metaに対し,MetaのAIシステムによる個人データ処理に関する措置命令

下記の記事が出ている。

 Meta Faces Suspension of AI Data Training in Brazil
 infosecurity: 4 July, 2024
 https://www.infosecurity-magazine.com/news/meta-suspension-ai-data-training/

 

 

| | コメント (0)

2024年7月 3日 (水曜日)

児童の権利を侵害するAIシステム開発者の巧妙な手口

下記の記事が出ている。

 AI trains on kids’ photos even when parents use strict privacy settings
 ars technica: July 3, 2024
 https://arstechnica.com/tech-policy/2024/07/ai-trains-on-kids-photos-even-when-parents-use-strict-privacy-settings/

このような手口による場合を含め,児童の権利を侵害することは,現在制定手続が進められているEUのAI法案の最新版の正文案の中でも違法行為であると明記されている。GDPRにも違反している。

| | コメント (0)

2024年7月 2日 (火曜日)

MetaのDMA違反行為

下記の記事が出ている。

 Meta’s ‘Pay or Consent’ Data Model Breaches EU Law
 infosecurity: 1 July, 2024
 https://www.infosecurity-magazine.com/news/meta-pay-consent-data-breach/

 Metaの「支払いか同意か」というモデルがDMA違反だという予備調査結果を欧州委員会が通知
 GIGAZINE: 2024年7月2日
 https://gigazine.net/news/20240702-meta-pay-or-consent-dma/

DMAの解説は下記のところにある。

 The Digital Markets Act (DMA)
 https://digital-markets-act.ec.europa.eu/index_en

***

基本的な考え方は単純で,誰にでも理解できる。すなわち,ネットサービスを利用する場合,広告掲載を強制してはならない。
「広告掲載を解除するためには一定の料金を支払え」という約款は,広告掲載を強制したのと同ことになる。
当該ネットサービスのプロバイダとしては,(慈善事業としてサービス提供するのではない以上)広告掲載の有無と関係なく,同一額で使用料を徴収して収益をあげるというビジネスモデルとしなければならない。

これまで調査してきた結果によると,日本国の各種サービスの中にもMetaと同様にDMA違反となるものが非常に多数存在している。
しかし,日本国の当局が意図的に鈍感になっているのではないか(または,天下りの約束等を通じて癒着しているのではないか)と疑いたくなるくらい無関心なので,現実にはなかなか業務停止にならない。

なお,これとは別に,各種サービスの中で優良誤認という違法があるものも多数存在する。特に,生成AI関係ではそうだ。
しかし,これまた当局が無関心なので,現実にはなかなか業務停止にならない。

 

| | コメント (0)

2024年6月29日 (土曜日)

生成AI v. 大学

下記の記事が出ている。

 Chatbots fool examiners — and outperform real-life students
 The Times: June 26, 2024
 https://www.thetimes.com/uk/education/article/chatbots-fool-examiners-and-outperform-real-life-students-dqvx09rj5

既に闘いが始まっている。

ただし,闘いが発生し得るのは,解答のある出題の場合だけだ。そうでない場合,簡単に見破る方法はある。ただし,出題者(=採点者)が相当に優秀かつタフでないとその方法は使えない。

 

| | コメント (0)

2024年6月26日 (水曜日)

米国:ワシントン州のAIタスクフォース

州レベルでのAI対応が進められているようだ。下記の記事が出ている。

 Washington AG names AI task force members
 StateScoop: June 24, 2024
 https://statescoop.com/washington-ag-names-ai-task-force-members/

 Who Should Be on Your State AI Task Force?
 Government Technology: June 24, 2024
 https://www.govtech.com/artificial-intelligence/who-should-be-on-your-state-ai-task-force

米国の法制度において,AIと関連する法令が連邦法として定められるべきか州法として定められるべきかは,当該法令の適用対象事項,適用対象者及び地理的適用範囲によって異なる。

とはいえ,あくまでも一般論としては,州法としてAI関連法を定めなければならない場合があり得る。

例えば,(州際犯罪,連邦政府及びその機関が被害者となる犯罪等の場合を除き)犯罪と刑罰に関する法令は,原則として,州の立法権に属する。
それゆえ,当該州の中で発生するAI関連の犯罪(例:生成AIを悪用した詐欺行為,AI技術を悪用したサイバー攻撃行為など)に関して(加重処罰のような)新たな法令または条項を制定することは,州の立法権の範囲内にあり得る。

それゆえ,そのような立法の要否等を検討するための州政府の専門家組織が必要となる。

なお,日本国の自治体に関して言うと,財政難のために道路や河川の外来植物の除去作業さえ実施できない自治体が少なくないということもあるが,現実問題として,この分野に関して(AI技術及び法律実務の両方に精通している)ちゃんとした人材がほとんど見当たらないので,自治体としてタスクフォースを組織することが原始的に不能であり,結局,無理だというようなことが普通だろうと予想される。

 

| | コメント (0)

2024年6月18日 (火曜日)

米国:ロサンゼルスで医療関連の個人データの大規模流出が発生したらしい

下記の記事が出ている。

 Los Angeles Public Health Department Discloses Large Data Breach
 infosecurity: 17 June, 2024
 https://www.infosecurity-magazine.com/news/los-angeles-health-data-breach/

 

 

| | コメント (0)

モバイル契約の際の本人確認方法としてマイナンバーカード使用義務化?

下記の記事が出ている。

 【速報】携帯契約の本人確認、マイナンバーカードの読み取り義務化へ 運転免許証などの券面確認は「廃止」
 niftyニュース(TBS): 2024年06月18日
 https://news.nifty.com/article/domestic/government/12198-3128875/

他に本人確認の方法がないのであれば仕方がないかもしれない。しかし,たぶん,大手のクレジットカードのほうがずっと信頼性が高い。マイナンバーに関しては,その情報の大部分が既に某超大国に流出していると推定されるので,信頼性は低いと言える。そのような状況にあるのにもかかわらず強行すれば,比例原則に反する。

日本に居住する外国人の中でマイナンバーも保有している人がどれだけいるのかわからないが,義務化すると,もともとマイナンバーをもたない人はモバイルの契約ができなくなる。つまり,国籍による差別を(公務員の憲法遵守義務に違反して)強行することになる。無論,正当性と相当性があるときは異なる取扱いが許されることはあり得るのだが,外国人だというだけの理由により日本国内ではモバイルの契約を一切できなくしてしまうことに正当性及び相当性があるとは思われない。

モバイルのサービスを提供する企業は日本企業だけではない。米国やEU諸国の企業に対してマイナンバーカードの読取装置等の設置及び関連システムへの接続を強制することが国際的な経済摩擦に発展する危険性は極めて大きい。

だから,本人確認のための唯一の手段として義務化してはならないのだ。

***

詐偽行為等の防止のために本人確認の方法を強化しなければならないという説明があるようなのだが,それ自体は間違っていないとしても,どこかおかしい。

本人確認と関連する法令を制定した際,政府は,その法令によって指定された方法によって「本人確認は万全だ」と豪語していた。それが明白に間違いだったことを認め,当時の閣僚等を全員退任させて責任をとらせた上でそのように言うのであればまだしも,誰も責任をとらない。

それゆえに言えることがある。それは,仮にマイナンバーカードによる本人確認を義務づけてもやはり同じことになるということだ。もしそうなっても,関係閣僚が責任をとり,政治家を廃業することはないだろう。

「本当は,どのような方法によっても完全な本人確認はできない」という当たり前のことを理解できていないということに尽きる。

そもそも「本人」を定義することは非常に難しいことで,普通の企業担当者や行政官や学者には全く無理な高度な知的処理を必要とする。そのことは既に幾つかの論文等で既に書いているのだが,現在のところその意味を理解できてきるのは日本国内では合計数名程度にとどまっている。そういうわけで,「わからない人」に説得しても「わからない」ので説得はしないが,今後どういうことになるかについて明確に予測できる。

しかし,ここで問題とされる「本人」とは,生物としての特定の個体のことではなく,関連証拠等によって存在すると想定される個人なのであって,その実質は個人データの複合による「記憶」の一種に過ぎない。その「記憶」が法的問題の処理の過程において物体としての物理的な生物個体と一致しているかどうかは問題とならず,債務名義の執行等の計算上の清算処理の段階で擬制されるだけというのが真実だ。このことは,我妻榮『民法講義』の時代から既に明確に認識されてきた古典的な事柄の一部なので,無論,私見ではないのだが,大半の法律家はそのようなことが書かれているということをちゃんと読めていないようだ。

いずれにしても,本質を理解しないままでマイナンバーカードによる本人確認を義務化すると,「マイナンバーカードによる本人確認を導入しても結果は全く変わらないかまたは悪化する」+「マイナンバーカードの偽造が大規模に増加する」ということが100%確実に予想される。

このことは,ちゃんと説明されれば中学生程度の知能の者でも完全に理解できることだ。

何しろ相手は,総計で何百万人いるのかもわからない極めて多数の詐欺・偽造を生業としている犯罪者とその集団だ。

一般論として,マイナンバーカードによる認証に一本化すると,環境が単調になるので,偽造方法も統一化され,偽造カードの製造コストが大幅に低減されることになる。

「マイナンバーカードは偽造されない」という「根拠のない自信」によって判断能力が曇ってしまっているので,関係閣僚にはそのことが見えていないのだろう。

しかし,所詮,そもそもカード内の装置は簡易なチップ製品であるし,その製造工場やサプライチェーンの中には既に犯罪者らの手下が多数入り込んでいることが当然に推定されるので,たちまち大量に偽造されてしまうことになると予想しなければならない。

それが一定の法則の応用による製品またはサービスである限り,絶対に解読されない暗号は存在しないし,絶対に偽造されないICチップも存在しない。

もしモバイルを悪用した詐欺事犯を少しでも減少させたいのであれば,優秀な捜査官の実人員数を大幅に増加させること,関連予算を増強すること,詐欺事犯それ自体としての捜査能力(電子的な捜査能力を含む。)を強化すること,外国の捜査機関やEuropol等との連携・協力関係を強化し,リアルタイムで(グローバルな)連携捜査が可能となるような体制を構築し,言語能力を強化し,そのための訓練と実践を日々積むこと,そのような地道な努力の蓄積以外に方法はない。加えて,悪質な詐欺事案に関し,死刑の導入を含め,厳罰化のための法改正が必須だ。

そして,モバイルの追跡だけで被疑者を特定できると安易に考えるレベルの低い捜査官はサイバー犯罪捜査の現場から外してしまわなければならない。

そのように考えるくらいの能力しかないレベルの低い参事官等も罷免してしまうべきだ。

もしかすると,この件の関連閣僚は,頭の悪いアドバイザーまたは何らかの利権がからんでいる悪質アドバイザーから間違ったアドバイスを受け,本質を見抜くことなく,騙されてしまっているのかもしれないとも思う。

 

| | コメント (0)

より以前の記事一覧