2024年5月17日 (金曜日)

EU:人工知能法(AI Act)案と医療機器規則(EU) 2017/745との間で互換性がとれていない部分がある?

下記の記事が出ている。

 Euro Convergence: Experts concerned about incompatibilities between AI Act and MDR
 Regulatory Affairs Professionals Society: 14 May, 2024
 https://www.raps.org/news-and-articles/news-articles/2024/5/euro-convergence-experts-concerned-about-incompati

医療機器規則は,複数の改正が予定されており,全部について整合性を確保するためには多大の努力を要する。

なお,日本国の医薬品及び医療機器等法は,EUの医療機器規則の制定に合わせて,旧薬事法を全面改正して制定されたものなのだが,当然のことながら,AI関連製品との関係ではEU法と同一歩調をとる必要があるため,EUにおける関連法令の改正に呼応して日本国法も改正されなければならない。

 

| | コメント (0)

2024年5月16日 (木曜日)

Googleの生成AIシステムによる合成文の電子透かしツール

下記の記事が出ている。

 Google Expands Synthetic Content Watermarking Tool to AI-Generated Text
 infosecurity: 15 May, 2024
 https://www.infosecurity-magazine.com/news/google-synthid-ai-text/

現実には,電子透かし技術は,ほとんど無力だ。

ブラウザで表示可能なテキストである限り,プレーンテキストのソースだけ抜き出し,または,プレーンテキスト文として編集することが可能であり,そのようなことが自動的には実行できないような環境が存在したとしても,眼で読み,手で入力して,オフラインでテキストを複製することが常に可能なので,その意味で,この種の問題に関し,電子透かし技術は常に無力だ。

生成AIによる合成画像に関しても,モニタの画面表示を別のカメラ(特に非デジタルのアナログ式カメラ)で写真に撮り,オフラインで編集すれば,元の合成画像の中に含まれている全ての電子透かしを無力化することができるので,やはり電子透かし技術は常に無力だ。

対処方法としては,研究室等の中だけに限定された調査研究目的による場合などを除き,生成AIサービスの提供及び利用を原則として禁止し,違反行為に対する重罰を導入することしかないと考えられる。

Googleの非常に優れた経営陣がそのことを知らないはずがないので,各国のAI対応法案による制裁を逃れるための工夫の一種に過ぎないのではないかと考えられる。

私は,この種の問題への対処としての電子透かしの有用性を信じていない。

***

私の担当科目においてオンラインで提出させている小テストの回答の中にも自動生成によるものではないかと疑われるものが含まれることがある。

内容的に粗悪なものである場合には,特に対処を検討することなく,単純に0点として採点している。

内容的にそれなりにまとまりのあるものである場合,提出者と個別に面談して質問し,即座に合理的な回答ができない場合には非違行為として判定し,大学の学則に定める処分を検討しようと考えている。

どちらであるのかが明確ではない場合(特に,レガシーな方法の一種として,人間による回答用テンプレートを使いまわしているような場合)には,警告をした上で,様子を見ることにしている。警告に従わないときは,大学の学則に定める処分を検討しようと考えている。

生成AIとは無関係な,人間による単純な著作権法違反行為は普通に存在するので,そのような違法行為に対しても同様の対処をしている。

明治大学の場合,著作権法違反行為のような違法行為があった場合,所定の手続を経て,明治大学の情報システムへのアクセス資格が停止または取消されることがある。
その場合,授業の連絡等を受けることができなくなり,また,レポートの提出等ができなくなる。当該非違行為のあった科目に限定されず,明治大学の情報システムへのアクセス資格が全面的に停止または取消となるので,当該年度における他の科目も自動的に受講不能となり,当該年度に取得すべき単位の取得ができなくなる。その結果として,卒業年度の場合には,卒業に必要な単位を取得できなくなり,留年ということがあり得る。

 

| | コメント (0)

2024年4月 4日 (木曜日)

EU:AI法を実装・運用するための組織的な仕組みの導入が進行中

下記の記事が出ている。

 EU Policy. Commission presses governments to appoint AI regulators
 euronews: 3 April, 2024
 https://www.euronews.com/next/2024/04/03/commission-presses-governments-to-appoint-ai-regulators

EUのAI法案が正式採択されるのは,(極めて多数のバグの修正作業が未済なので)まだ先のことになるが,(バグが修正された後に)採択されたとしてもそれを実装・運用するためには具体的な仕組みを多数構築しなければならない。正式の採択前であるけれども,既にその実装・運用のための作業が進められている。

***

日本国はEUの構成国ではない。しかし,それにしても政府の関連部署の反応が鈍すぎる。所管大臣にも職員にも「何が大事なことなのか」を理解する能力及び「何が必要なことなのか」を察知するための基礎となる広範な一般教養がないのかもしれない。

EUのAI法案の重要性を真に理解するためには,(法案であるものを含め)EUの整合化立法全部を常に自己の生体脳の中に入れており,それらの整合化立法の論理構造の全てを完全に咀嚼・理解しており,整合化立法上の重要条項を自由自在に法解釈でき,かつ,現実にそれらの条項を執行するEUの機関と全ての構成国の行政機関の権限分配とその相互関係を完全に理解している複数の上級公務員が必要だ。

(法学研究者でも職業法律家でもない)単なる政治家の一員に過ぎない国務大臣に対してそのような法解釈の能力と経験を求めるのはもともと無理なことなので,私は,政治家に対しては何も求めていない。

ところが,国務大臣を補佐すべき立場にある公務員等の中ではどうかというと,(たぶん,私の鑑識眼が老化により劣化しているためだろうと思われるのだが)国家公務員の中に適切な人材を見出すことはできないし,日本国の法学者や弁護士の中にもそのような能力を十分にもつ人材が全く見当たらない。

結局のところ,日本国は,(サイバー経済社会という国際的な生存競争において)既に敗北していると言えるかもしれない。

 

| | コメント (2)

2024年3月31日 (日曜日)

米国:連邦政府の全ての部局にAI担当主任官を設けるように大統領が指示

下記の記事が出ている。

 Biden orders every US agency to appoint a chief AI officer
 ars technica: March 29, 2024
 https://arstechnica.com/tech-policy/2024/03/why-every-federal-agency-must-now-appoint-a-chief-ai-officer/

一般に,AI技術の専門家はAI技術と関連する政策担当者にはなれるかもしれないが,AI政策の担当者にはなれない。

一般に,AI技術を統治するためではではなく,国家のAI政策を統治するためには,そのための深く鋭い洞察力と可能な限り幅広い一般教養をもち,かつ,公平に判断できる知的能力をもち,特定のAI関連企業との間で特定の利害関係をもっていないことを不可欠の条件とする。

一応の目安としては,受験勉強をしているわけでもなく,遊んでいるようにしか見えないのに簡単に有名大学に進学したり,非常に難しい国家試験に簡単に上位合格したり,日常茶飯事的に容易に高度で斬新な内容の専門論文を作成・公表してしまうようなタイプの者でなければ,そのようなAI統治に必要な知的資質を期待することはできない。
ただし,そのような能力は,行政官としての調整能力とは異なるものなので,調整機能を担当する補佐職が存在しなければその能力を十分に発揮することがないという本質的な限界はある。意思決定者の指示・決定に従って調整力を発揮できることを不可欠の資質とする行政官としてではなくブレーンとして機能すべき資質の一種であると言える。

一般教養は,過去の書籍を全て読み理解するだけでは得られない。そのような普通の人から見れば遊んでいるようにしか見えない行動であっても,膨大な量の事実そのものから帰納法によって新たな法則を獲得するという長年にわたる努力の継続によってのみ獲得・蓄積される。

普通の人から見れば単に遊んでいるようにしか見えない行動そのものが,実は,そのような者にとって極めて重要な知的栄養源または知的補給源になっているのだ。
一般に,好奇心と探求心が特に強い者は,あることに興味をもつと,納得が得られるまで当該の事柄を探求し尽くすし,そのために必要な関連知識全部を同時に吸収して自分自身の知的栄養の一部にしてしまうのだが,そのような好奇心と探求心があること,そして,そのような好奇心と探求心を満足させるためにありとあらゆる知的能力を駆使し,そのような知的能力を駆使するために必要な行動計画をたて,実施し,自己評価と見直しができることが必須の要求事項となっている。

ちなみに,好奇心や探求心の対象が他人のプライバシーである場合(特に社会の中で枢要な立場にある者のプライバシーである場合),報復として殺されたり社会から追放されることはあり得るし,相手が普通の一般市民の場合でも民事・刑事の法的責任を負う結果となることはあり得る。
それゆえ,一般に,そのような面においても賢い者は,特定または不特定の人間(特に現在生きている人間)を自分の好奇心や探求心の対象とはせず,人間とは関係のない自然の産物や過去の出来事などにその対象を求めるものだし,人間に対して好奇心や探求心をもつ場合であっても,自分の理解と納得が得られればそれでおしまいとし,自分の知見を外部に対して表明することは厳に慎む。そうやって合理的にリスク管理をするものだ。

だから,そのような人材は,大学の工学部等では育成できない。

また,日本国においては,国家機関,地方自治体等の公的機関でも,民間企業でも,当該組織における組織構造と権限分配が少しも明確ではない(←非常に多くの場合,そもそも明確な権限分配と責任分配が全くない)のが普通なので,結局,どうやってもうまくいかないかもしれない。

その結果,日本国は,AI立法においてもAI統治においても,世界中の最劣等国になってしまうおそれがある。

ペリー来航の時と同じような時代の変化が目の前にあるのに,それに対応すると失職してしまう危険性またはリスクがあるため,(企業の従業者であれ公務員であれ)徳川幕府の旗本的なメンタリティの持主である人々は,(自分自身に対し)何か変化を求めたりすることはない。

現実に存在する大部分の人々は,既得権にかじりつき,可能な限り働かないで可能な限り多くの俸給を得たいということだけを考えがちだ。好奇心も探求心もなければ,そして,好奇心と探求心を支える十分な体力と時間と資金がなければ,結局,そうなるのが普通だ。

 

| | コメント (0)

2024年3月28日 (木曜日)

なぜかシンガポール

表面上ではシンガポールからのアクセスのように見えるこのブログサイトへのアクセスが急増している。

どうしてそうなるのかは,わからない。

 

| | コメント (0)

2024年3月19日 (火曜日)

グリーンナイト

昨日は都内で会合があり,遅くなったので,安全のためホテルに投宿した。今朝,朝食をとる前に,ホテルの部屋にあるテレビでデヴィッド・ロウリー監督・脚本・製作・編集の映画『グリーンナイト(The Green Knight)』(2021年)を視た。

アーサー王伝説から派生した中世叙事詩を原作とするファンタジー作品。出演者の演技も高度な画像処理も全て素晴らしく,久々に楽しめた映像作品だった。

一般に,AI技術がどんなに進歩しても,結局,映画監督等の構想力がとびぬけて優れていないと,良い映像作品をつくることはできない。画像処理のためのAI技術は,それ自体としては,単なる道具の一種に過ぎないので,その道具を使う人がつまらない人であれば,やはりつまらない作品しか生成されない。

この作品には原作にはないストーリーが一部添加されている。これは,デヴィッド・ロウリーのメッセージ表現の一種だろうと思う。現実には欲望の充足や空虚な名誉の獲得を追求し,滅んでしまう人の方が多い。

 

| | コメント (0)

2024年3月15日 (金曜日)

EUのAI法(AI規則)の制定手続

EUのAI法(AI Act)を採択(=法令として正式成立)のような報道があるが,全部誤りなので関連記事を削除または訂正すべきだと思う。

「Regulation」を「規制」と訳している記事もあるが,完全な誤り。「規則」が正しい。EUにおいては,EUの構成国に対して直接の拘束力のある法令(=EUの構成国がそれぞれの国の国内法を制定しなくても効力を及ぼす法令)の法形式は「Regulation」となる。

内容としても,EUのAI法案は,AIを規制するための法案ではない。EU域内のAI産業を育成するための産業立法または経済政策立法とみるのが正しい。AIシステムの応用である製品またはサービスに関しては,その安全性を確保した上で,CEマークを貼付し,安全性を宣言すれば流通に置くことができるという非常に簡便な手段も準備されている。安全性が確保されていない製品やサービスを流通に置いてはならないことはどの国でも同じことだ。

まだ正式採択になっていないので,規則(Regulation)としての番号も決まっていない。無論,規則としての番号が決まらなければ,EU官報(Official Journal of European Union)上の公示もないので発効(effective)のしようがない。

正文の最新のテキストは2024年2月2日の版のものなのだが,私が調べたところでは最少の見積もりで約3000箇所以上の誤りがあるので,これからバグ修正の手続に入り,その手続が終わった後に,欧州議会の代表と欧州連合の理事会の代表が文書に署名して正式採択となる。

現在のバグを抱えたままだと,EUの法令として正常に機能しない。また,バグ修正を完了しなければ,規則の適用(application)の日を確定することもできない。
ちなみに,EU法においいては,日本国法と全く同じという意味での「施行」は存在しないので,(誤解を避けるため)報道機関としても「施行」という語を使用することを避けるべきだと思う。

バグ修正に要する時間に関しては,しっかりやるとすれば6か月くらいかかるのではないかと思われるのだが,大急ぎでやることだろうから4月に正式採択になると見込むのが妥当ではないかと思う。

 

[追記:2024年3月22日]

関連記事を追加する。

 EU Policy. Commission to look for head of AI Office only when law is fully approved
 euronews: 20/03/2024
 https://www.euronews.com/next/2024/03/20/commission-to-look-for-head-of-ai-office-only-when-law-is-fully-approved

 

 

| | コメント (0)

2024年3月 7日 (木曜日)

米国:AI投資に変調か?

下記の記事が出ている。

 OpenAI fires back at Elon Musk lawsuit with trove of emails
 The Times UK: March 6, 2024
 https://www.thetimes.co.uk/article/openai-fires-back-at-elon-musk-lawsuit-with-trove-of-emails-0jcz2zxj7

***

これまで使っていた自家用車の走行距離が限界を超えていると判断したので,別のコンパクトカーに買い替えた。標準装備でオートクルーズの機能や各種自動処理の機能が装備されている。それらの機能は,現在「AI」と呼ばれているものの一種だと理解可能だ。

直観的には,何も問題がない場合(事故の発生確率がゼロまたはほぼゼロ)の場合には,非常に快適に動作する。実験室や事前のシミュレーション(想定)の範囲内にあるからだろうと思われる。

しかし,少しでもイレギュラーがあると,頼りにならない。

一般に,対向して走行してくる車両や側面から進入してくる車両,一般道を走行する二輪車が完全に適法かつ安全に走行しているという保証は全くないし,歩行者の多くが既に超高齢者のため次の瞬間にどのように動作しているか確実に予測することが困難というのが普通の道路環境になっているので,現実にはイレギュラーだらけだと言える。

他方において,他からの電波干渉の防御が弱すぎ,強い懸念が残る。走行と停止のための基本機能だけではなく,カーナビ等の付随的な機能に関しても,(ジャミングを含め)電波を用いた攻撃によって大規模な事故を発生させることが可能だと判断した。
実際に利用中,サイバーな脅威を何度か実体験した。

現状としては,サイバー攻撃に対する完全な防御機能を具備する車両を販売しようとすれば,普通の国民が購入可能な価格で製造・販売することは無理なことなのだろう。

そうであるとすれば,無理に完全自動化(ロボット化またはサイバネティクス化)を急ぐのではなく,人間の弱点を補うという(EU流の人間中心主義的な)側面を重視した製品やサービスの機能設計や開発に重点を置いたほうがベターなのではないかと思われる。

***

自動車を含め,機械装置やアプリを開発する開発者の大半が若い世代の人々であり,人口の半分以上を占めている高齢者及び超高齢者なるものがどのような存在であるのかを理解するための能力と経験を全くもっていない。

同じことは,各種証書の電子カード化でも言えることで,政策決定者の想定能力が極めて劣悪であるため,高齢者及び超高齢者に対して「だったら,死ねばよいのではないか」と言っているのも同然のバカげた政策を重ねては失敗し続けている。今後もきっと同じように愚策を重ね,失敗し,そして,誰も責任をとらない。

日本国においては,影響評価が実質的に全く行われていないのと同じであることが普通であり,また,形式的に影響評価が実施されてもその結果を全く無視するのが通例なので,政策決定者が失策を避けるための手段・方法を自ら塞いでいることになる。

 

| | コメント (0)

2024年3月 6日 (水曜日)

ウクライナのロシアに対するサイバー攻撃

下記の記事が出ている。

 Ukraine Claims it Hacked Russian MoD
 infosecurity: 5 March, 2024
 https://www.infosecurity-magazine.com/news/ukraine-claims-it-hacked-russian/

この戦争は,ロシアのサイバー攻撃により,ウクライナの発電所や送電施設等の不可欠インフラが大打撃を受け,(防空レーダーの稼働を含め)防御力が大幅にダウンしている状態を形成するところから始まった。つまり,リアル戦に先立って大規模なサイバー戦が実施された(もしかすると歴史上最初の)事例なのかもしれない。

そして,(核戦争によって地球上の大半の人が死んでしまうような事態にならない限り)未来の歴史家は,ウクライナがサイバー戦において優勢を確保しつつあることに関し,この戦争の1つの転機としてとらえるかもしれない。

 

 

 

| | コメント (0)

2024年2月20日 (火曜日)

SNSを手段とする(選挙などにおける)世論の誤導や攪乱のリスク

下記の記事が出ている。

 X(旧Twitter)は世論を分断しアメリカ大統領選挙の操作をもくろむ中国のプロパガンダアカウントをMetaや検察官が報告しても放置している
 GIGAZINE: 2024年02月19日
 https://gigazine.net/news/20240219-x-china-propaganda-accounts-flourish/

昔も今も少しも変わっていない。「悪貨は良貨を駆逐する」ので,そうなる。

なお,生成AI等を濫用した高度な偽ニュース(fake news)等が問題とされているが,そんな手のこんだものではなく,単なる塵のようなメッセージを大量にばらまくだけでも正しい情報に到達できる確率を大幅に低下させることができる。

このようなタイプの攻撃は既に実行されていることではあるが,今後,そのようなセマンティックな要素をもつジャミング的な塵メッセージのばらまきが横行することになるかもしれない。

 

 

 

| | コメント (0)

より以前の記事一覧