2024年5月25日 (土曜日)

Google AIはひょうきん?

下記のような記事が出ている。

 Glue pizza and eat rocks: Google AI search errors go viral
 BBC: May 24, 2024
 https://www.bbc.com/news/articles/cd11gzejgz4o

あくまでも一般論だが,雑多な知識をとにかく吸収・記憶するだけでは少しも学習にならない。

学習とは,自己の脳内に巨大な世界樹のようなものを構築することを意味し,吸収したデータが根,幹,枝,葉,花,果実,世界樹に寄生する様々な生き物などのどれに該当するかを逐一判定し,仮定的にプロットし,都合が悪ければ別の世界樹を併行的に仮定して同じ作業をするというようなことを積み重ねることを意味する。つまり,脳内における創造的かつ意味論を不可欠の要素とする(仮説の設定と構築という意味での)構造化の機能という意味での「知能」をもたない者は,実は何も学習しておらず,単にPCのHDのような記憶媒体のセルにデータを記録し続けているのに過ぎない。

他方において,格納されている知識を探索する方法は,単純な探索木の探索ではあり得ない。人間の生体脳がそのようなことをやっていたら,常にオーバーヒートし,発狂してしまうことだろう。
知識の探索木など最初から存在しないのだ。

天才ではない者が(生成AIを含め)人工知能システムの構築と実装を試みようとするから,必ず失敗することになる。
そして,(極めて限定された人工的な世界だけを対象としている数学分野における天才は,その狭い分野の範囲内においては確かに天才なのだが,数学分野以外の非人工的な世界を含む分野では完全に無知であることが普通なので,数学の分野における天才を「真の天才」の集合から除外した上で)もし真の天才であれば,「知能は,数式で表現できるようなものではない」という結論に直ちに到達するので,自動的に,「数式で表現されないので,いかなる場合であってもコンピュータ処理が成立しない」という当たり前の結論に達する。それゆえ,人工知能の理論と技術に対しては必然的に懐疑的かつ冷笑的になると同時に,実際の人間の大多数が実際にはそれほど優秀な頭脳をもっていないので,人工知能技術によって人間の労働や作業の多くが置き換えられ得ることも知っている。ただし,避難されることや不利益を受けることを避けるため,「黙して語らず」を貫いているというのが真相に近い表現となる。

なお,数学という狭い世界だけとはいえ,弾道計算から始まった各種武器の自動運行・自動運用のための技術開発においては十分な有用性をもつので,数学者の優位性は現代でも揺るがない。ただし,例えば,ミサイルの弾道を例にとって考えてみると,理論は,地球の磁場と空気の濃度などの物理条件が均一であることを大前提に理論が構築され,運行・運用に必要なコンピュータプログラムやAIシステムが設計・開発されることになる。しかし,当のミサイルの構成要素となっている物理的な部品は常に不均一であり,燃料も不均一であり,大気の状態や地磁気の状態そして太陽風の状態は常に変化し続けているので,実は,「大前提が常に成立していない」ということを知らないと,軍当局や諜報機関の担当者が詐偽にひっかかることともなり得る。

***

一般に,数学の世界はブール代数だけで構成されているわけではないし,ブール代数を基礎とする数学以外の数学の方式をコンピュータ処理できるように実装・運用できる方法が確立されつつあるので,シャノンの理論だけではなく別の様々な理論が意味をもつようになってきている。
シャノンの理論は,単純・素朴な在来の情報通信産業においては(工学的なレベル)で必須のものだったかもしれない。
しかし,もともと理学的なレベルの理論ではないので,現実の諸技術の進歩と共にその必須性を喪失し続けることになる。
この点は,ある著名な先生からの質問に対する回答だ。即答できたが,がっかりするだろうと思い,また,その質問を受けた場では他の先生も同席しており,面子を潰すようなことをしてはならないとも考え,しばらくの間黙っていた。

***

ブール代数だけで全部説明できると主張する者は,いつか必ず絶望を味わうことになる。

数学分野のごく限られた極めて小さな領域しか知らないのに,「世界を理解した」と錯覚してしまったことにその悲惨さの根本原因がある。

***

人間は,常に謙虚であるべきだと思う。

「無知の知」を座右の銘とすべきだと思う。

 

| | コメント (0)

2024年5月23日 (木曜日)

EU:AI法案の第3読会における議決

下記のEur-lexのデータとして2024年5月21日に行われた議決に関する情報が提供されている。

 Document ST_10199_2024_INIT
 https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=consil%3AST_10199_2024_INIT

この時点では,EUのAI法(AI Act)はまだ成立していない。それゆえ,EUの規則(Regulation)としての番号もまだ決まっていない。

一般に,法令の番号は,他の法令と識別するための識別子(identifier)なので,番号が付されていない法案文は,(成立している法令という意味での)法令ではない。逆から言えば,正規の番号が付されているかどうかを確認することにより,まだ法案文の段階なのか法令として成立しているのかを識別することが一応可能だと言える。

ある報道によると,AI法が発効するのは来月(2024年6月)とのことなのだが,不確実な報道なので何とも言えない。ただ,欧州議会及び欧州委員会が,5月21日に理事会において議決された内容を精読・理解するためにはそれ相応の時間を要することだけは確実だと言える。

あくまでも理屈の問題としては,欧州議会が欧州議会として理事会の議決に納得しなければ,欧州議会の長(President)が署名することもないので,AI法が成立することもない。

***

日本の一部マスコミは,EUの国家体制及び立法手続をまだ学習していない。「生成AIを導入したほうがまだましな記事を書けるのではないだろうか?」と言いたいところなのだが,国会図書館のサイト内にある解説にも一部誤りがあるので,やむを得ない面がある。

なお,「3者合意によりAI法が成立」と理解していた人々は,そのように教えている法学者や弁護士のせいでそうなってしまったというようなことがあり得る。自分もそうならないように,更に勉強を重ねなければならないと思った。

ちなみに,AI法案の3者合意(2023年12月)によって合意した内容の中には「通常の立法手続」に従ってEUの規則(Regulation)を制定するとうことも含まれているので,AI法案に関しては,特別の手続によることなく,通常の立法手続に従ってAI法案の制定手続が進められている。

この間,極めて多数の誤りの訂正が重ねられてきたので,当初の立法提案書の内容のとおりの内容でAI法が制定されると予定して考えるのは危険なことだ。全文精読し直し,理解し直さなければならない。

 

| | コメント (0)

2024年5月22日 (水曜日)

EU:AI法案を理事会が承認する議決

下記の記事が出ている。理事会の承認の議決があっても,それだけでAI法が成立したわけではない。

 Artificial intelligence (AI) act: Council gives final green light to the first worldwide rules on AI
 Consilium: 21 May, 2024
 https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/

 EU AI Act clears final vote
 Out-Law: 21 May, 2024
 https://www.pinsentmasons.com/out-law/news/eu-ai-act-clears-final-vote

このあと,欧州議会の長(President)及び理事会の長(President)が署名することにより,EUの規則(Regulation)として正式に成立する。

成立した規則は,EU官報上で公示され,公示の20日後に発効(Entry into force)する。

発効した規則は,一部の条項を除き,原則として,発効の2年後(24か月後)に適用される。

なお,日本国の法制度とEUの法制度とはかなり異なるものなので,EU法に関しては,日本国の法制度でしか通用しない「施行」という表現は,(誤解を避けるため)原則として使用すべきではない。日本国法における「施行」と類似する国家機能をもつEU法における法概念は,「適用(application)」である。

***

一般に,日本国の法制度及び法律用語は,世界全体の中ではかなり特異なものなので,日本国の法制度及び法律用語の知識だけでEU及びEU法を理解しようとすると,基本的な部分・本質的な部分で理解を誤る危険性がある。既存のEU法の教科書に書かれていることは,拡大EU後の現時点におけるEUの国家体制及び法制度の変化を正しく反映しているものとは言えないので,その点に留意しなければ間違う原因をつくることになる。

私が理解している範囲内に関する限り,現時点において,日本語で書かれたEU法の教科書の中で本質的な部分・根本的な部分に多くの誤りを含まない書籍はないと判断している。
少なくとも100本以上のEUの法令を自力で翻訳しながらEUの全体の本質的部分を理解し,個々の法律用語の適切な訳語(語彙)を自ら蓄積し続ける以外に現状を打開する方法はない。
コピペだけに頼っている者は,死ぬまで「バカの壁」(養老孟司)を乗り越えることができない。
そのことを理解できない法学者は,法学者としての資質・能力を疑われても仕方がないものと考える。
ただし,マスコミ関係者やライター,職業法学研究者ではない弁護士等は,もともとEU法の基本構造やEU法の法律用語に関して素人であり,EU法で使用される法律英語が「米国及び英国で使用されてきた法律英語とは根本的に異なる意味を示すための語彙及び文法の集合体であること」を全く知らず,それゆえ,EU法に関しては基本的に無知なので,EU法において使用される法律用語の語彙を間違って理解したままで報道記事等を作成しても強く批判しないようにしている。

私自身は,私が作成する参考訳において,原則として直訳主義を貫いている。日本国に特有の法律用語を使用すると,EU法の分野においても同じだと誤解されてしまう危険性があるからだ。

***

これまで3月13日に欧州議会で承認された正文案に基づき素訳(全訳)を作成してきた。

理事会で承認された正文案との異同はまだ点検していないのだが,直観的には異動があるように思う。

全体として最初の提案時と比較して2倍以上の分量の法令(前文・本文・別紙(ANNEX))となっているので,完全に点検し,参考訳を完成するのは夏休み頃になると見込まれる。

なにしろ,自分ひとりだけで作業を進めているので時間がかかる。

しかし,自分ひとりで作業しているので,訳文の一貫性に関しては他の訳を凌駕していると自負している。

複数の人間の共同作業によると,(関与者全員がEU法を正しく熟知した人材である可能性がほぼ絶無なので)一貫性のある訳文を作成することが不可能となる。

なお,重要な整合化立法のほぼ全部について同時進行的に分析と訳出を進めている。疾病や故障がなければ,2024年12月までにはその参考訳を公表できるだろうと考えている。

法と情報研究会のメンバーに対しては,2023年12月の時点における正文案に基づくサイバー回復力法案の全文訳を提供している。

 

| | コメント (0)

2024年5月16日 (木曜日)

Googleの生成AIシステムによる合成文の電子透かしツール

下記の記事が出ている。

 Google Expands Synthetic Content Watermarking Tool to AI-Generated Text
 infosecurity: 15 May, 2024
 https://www.infosecurity-magazine.com/news/google-synthid-ai-text/

現実には,電子透かし技術は,ほとんど無力だ。

ブラウザで表示可能なテキストである限り,プレーンテキストのソースだけ抜き出し,または,プレーンテキスト文として編集することが可能であり,そのようなことが自動的には実行できないような環境が存在したとしても,眼で読み,手で入力して,オフラインでテキストを複製することが常に可能なので,その意味で,この種の問題に関し,電子透かし技術は常に無力だ。

生成AIによる合成画像に関しても,モニタの画面表示を別のカメラ(特に非デジタルのアナログ式カメラ)で写真に撮り,オフラインで編集すれば,元の合成画像の中に含まれている全ての電子透かしを無力化することができるので,やはり電子透かし技術は常に無力だ。

対処方法としては,研究室等の中だけに限定された調査研究目的による場合などを除き,生成AIサービスの提供及び利用を原則として禁止し,違反行為に対する重罰を導入することしかないと考えられる。

Googleの非常に優れた経営陣がそのことを知らないはずがないので,各国のAI対応法案による制裁を逃れるための工夫の一種に過ぎないのではないかと考えられる。

私は,この種の問題への対処としての電子透かしの有用性を信じていない。

***

私の担当科目においてオンラインで提出させている小テストの回答の中にも自動生成によるものではないかと疑われるものが含まれることがある。

内容的に粗悪なものである場合には,特に対処を検討することなく,単純に0点として採点している。

内容的にそれなりにまとまりのあるものである場合,提出者と個別に面談して質問し,即座に合理的な回答ができない場合には非違行為として判定し,大学の学則に定める処分を検討しようと考えている。

どちらであるのかが明確ではない場合(特に,レガシーな方法の一種として,人間による回答用テンプレートを使いまわしているような場合)には,警告をした上で,様子を見ることにしている。警告に従わないときは,大学の学則に定める処分を検討しようと考えている。

生成AIとは無関係な,人間による単純な著作権法違反行為は普通に存在するので,そのような違法行為に対しても同様の対処をしている。

明治大学の場合,著作権法違反行為のような違法行為があった場合,所定の手続を経て,明治大学の情報システムへのアクセス資格が停止または取消されることがある。
その場合,授業の連絡等を受けることができなくなり,また,レポートの提出等ができなくなる。当該非違行為のあった科目に限定されず,明治大学の情報システムへのアクセス資格が全面的に停止または取消となるので,当該年度における他の科目も自動的に受講不能となり,当該年度に取得すべき単位の取得ができなくなる。その結果として,卒業年度の場合には,卒業に必要な単位を取得できなくなり,留年ということがあり得る。

 

| | コメント (0)

2024年5月14日 (火曜日)

AIにより自動的に生成されたコードがオープンソースに含まれているという問題

下記の記事がない。

 AI-Generated Code: A New Link in the Software Supply Chain
 DARK Reading: May 13, 2024
 https://www.darkreading.com/vulnerabilities-threats/ai-generated-code-a-new-link-in-the-software-supply-chain

AIにはもともと知性や理性というものが存在し得ない。違法なコード生成処理であっても「反対動機」を形成して自己抑制するということがない。

この記事及びその中で参照されている報告書でも触れられているとおり,例えば,第三者が権利を保有している著作物の全部または一部を違法複製して自動的にコードを生成する行為を「著作権法に違反する違法行為である」と認識して自動的に停止してしまうような法令遵守機能のような自動処理機能はない。

AIは「知能」ではないので,当然の結果だと言える。

そのような自動的に生成された違法なコードがオープンソースの一種として組み込まれているソフトウェア製品であるかどうかを自動的に監視し,違法なコードを自動的に削除してしまうような仕組みは現在のところ実用化されているとは言えない。

「artificial intelligence」という語を廃止して,単に「automated processing」という語だけを使用するようにしたほうが良いと考えられる。

 

 

| | コメント (0)

2024年4月11日 (木曜日)

IQE

下記の記事が出ている。

 British chip producer IQE feasts on boom in AI
 The Times: April 11, 2024
 https://www.thetimes.co.uk/article/chip-producer-feasts-on-boom-in-ai-9zm6rkb5l

 

| | コメント (0)

2024年4月 1日 (月曜日)

AI技術が学術及び大学教育に対して与える影響に関する意見

下記の記事が出ている。

 Privacy And Security Issues Of Using AI For Academic Purposes
 Forbes: March 29, 2024
 https://www.forbes.com/sites/davidbalaban/2024/03/29/privacy-and-security-issues-of-using-ai-for-academic-purposes/

 

| | コメント (0)

2024年3月30日 (土曜日)

テネシー州:Elvis Act

下記のとおり公報されている。

 Gov. Lee Signs ELVIS Act Into Law - Tennessee First in the Nation to Address AI Impact on Music Industry
 Office of Governor: March 21, 2024
 https://www.tn.gov/governor/news/2024/3/21/photos--gov--lee-signs-elvis-act-into-law.html

 

 

| | コメント (0)

2024年3月29日 (金曜日)

アフリカ諸国のAI立法動向

下記の記事が出ている。

 Africa Begins Efforts to Regulate Artificial Intelligence
 Tech in Africa: March 18, 2024
 https://www.techinafrica.com/africa-begins-efforts-to-regulate-artificial-intelligence/

 

 

| | コメント (0)

2024年3月26日 (火曜日)

インドネシアのAI立法動向

少し古い記事だが,下記の記事が出ている。最新の動向を注視し続けるべきだろうと思う。

 Indonesia’s Approach to Artificial Intelligence Governance
 Open Gov: February 28, 2024
 https://opengovasia.com/2024/02/28/indonesias-approach-to-artificial-intelligence-governance/

 Legal Issues in Generative AI under Indonesian Law - Copyright and Personal Data Privac
 Lexology: January 16, 2024
 https://www.lexology.com/library/detail.aspx?g=3d77f934-d86c-4a80-ae72-927f2c317c9a

 

| | コメント (0)

より以前の記事一覧