« AIグラス | トップページ | GPT-5は博士レベルか? »

2025年8月 7日 (木曜日)

馬鹿なGPTは治らない

馬鹿なGPTが存在する。しかも,多数存在する。

試みに,「あんたは馬鹿なんだから治せ」と命じても,クレーマーに対する疑似迎合的モードに切り替わり「馬鹿でごめんなさい」と回答するのみであり,馬鹿が改善することは微塵もない。馬鹿につける薬はない。

***

特に,正確な知識が全く存在せず,信頼すべき仮説さえ存在していない分野に関しては,(当然のことながら)知識も情報もデータも存在しないので,人間によってもAIによっても何も学習され得ない。
そのような分野に関する事項については,人間もAIも無力なのだ。

既に学習したデータの範囲内では存在または不存在を確定できないのであれば,(根拠として)学習したデータた資料のリストを明示し,それらの資料やデータからの推論の健全性を論証した上で,「学習したデータの中にはそのような符号列は含まれていません」または「わかりません」と回答するのが(ベターという意味で)正しいと言えるだろう。より正確には,常に「処理できません」と回答するのみのシステムが最も信頼性の高いシステムであると言える。

「無知の知」を知らない馬鹿なエンジニアは馬鹿なGPTをつくり続けるだろうし,それを信じて導入した企業や組織等はどんどん崩壊していくだろうし,仮に一時的に成功すれば大規模リストラとなってやはり組織崩壊する。

それゆえ,そんなに遠くない将来に到達する未来は,『旧約聖書』の『創世記』に書かれている「バベルの塔」のとおりとなる。

人類の大部分は死滅し,原始時代に戻る。

***

Google検索等の検索結果画面等に「要約」なるものが表示されるようになった。

全量調査したわけではないが,サンプル調査した結果,その100%が「fault」となった。「true」の「要約」は存在しなかった。

例えば,「茨城県内には***は存在しません」という要約が出ることがある。私は実際に現地を訪問し実見しているので存在していることを知っている。これまでさんざんひどい誹謗中傷を受けてきた結果,それを避けるため,「空想ではない」ということを示すために,個人ブログの中でその写真と記事をエッセイ風に提供し,エビデンスとし続けている。そのために毎日多大な労力を割き続けている。そのような意図で個人ブログを継続していることについては,非常に優秀な学生諸君及び元学生諸君(=現社会人)は,よく理解してくれている。

一般に,Googleは,基本的には過去に生成したデータを(適法か違法かは別として)単純に複製しているだけなので,真実や真理を示す情報を入手または生成しているわけではない。過去に「茨城県内に存在した」ということを示すデータがなければ「存在しない」として自動処理しているだけのことであり,推論しているわけでも思考しているわけでもない。無論,検証することもないし,現況を確認するために関連する全ての地点を全ての時期において現地調査するというようなことはあり得ない。簡単に言えば,要約の信頼性は,もともとゼロなのだ。

過去の事実(←正確には,観察者の主観的観察結果を内容とする情報)を示すデータは,無論,(私有地や自衛隊基地のような立入禁止場所を含め)茨城県内を漏れなく調べた結果を示すものではないので,そもそも不完全なものであり,その信頼性が100%となることは絶対にあり得ない。
しかも,気候変動や開発の影響等により,状況は常に変化しているので,1年前に作成された資料は現在の状況とは反しているというようなことが常態化している。
簡単に言えば,過去のデータを基礎とする推論や信頼性評価の成立可能性が常に極度に低下し続けている。

法学の分野に関しても,二期目のトランプとプーチンの日々の言動により,「国際法などもともと存在しない」という当たり前のことが証明されているのだが,国際法GPTは,旧来のドグマを提供し続けることになるのだろう。
私自身は,国際的な現象に関しては,政治学上の実力説が正しいということを常に述べてきたし,そのとおりの現実になっているだけのことだと理解している。

結局,このようなタイプのAIシステムは,(受験勉強のための記憶能力しかないような低レベルのシステムであるという意味で)基本的には馬鹿だと言える。そのようなものを単純に信ずる者も馬鹿だと思う。

馬鹿だと知って(ひまつぶしのための)玩具として遊ぶことのできる超優秀者だけにしか理解できないことかもしれないが・・・

***

私は,手あたり次第に訪問地を選定しているわけではなく,「偶然的結果が発生する確率」を高めるための最善の努力を尽くしている。
それゆえ,同じようなことをやっている他の研究者等と比較すると,希少な動植物と遭遇する機会が多い。
単純に散策するだけで多種多様な動植物と遭遇することなどあり得ないことだ。

ただ,当該分野の(動物学者や植物学者のような)専門家または職業研究者と異なる点は,私は,「過去の記録から推定されたターゲットとする動植物と遭遇する機会」という意味で「偶然的な結果」をとらえていない。

過去のデータによれば存在確率または発生確率がゼロであったとしても,私のこれまでの全人生をかけた直観により,「そこにあるはずだ」と確信すれば,どのような困難でも克服し,(合法的な範囲内で)その場所にアクセスし,そして,仔細に観察する。

そのようにして訪問先を決定しているのだが,(足利市所在の某古墳群を訪問した際,最も大きな円墳の上に陣取ったCIAまたはグリーンベレーの要員のような風体のアメリカ人と思われる者から無線で指示を受けながら運転していると推定されるアラブ系と思われる運転者が運転するGoogleカーが私の背後で停車し,一定時間にわたり私の動静を撮影し続けていたという出来事を除き)当の現地において大手AI企業の関係者または大手AIから依頼を受けた調査員等と出遭ったことは一度もない。
ただし,少し離れた場所から望遠レンズで監視し,または,監視用ドローンを操作しながら監視しているということはあり得る。

***

この程度のものを大学教育に導入しようとする馬鹿者が大勢いる。

私の推定では,真の教育というものを理解していないためまたは真の教育を理解し実践する能力を欠いているため,単なる「訓練(training)」に過ぎないイベント処理を「教育(education)」だと錯覚しているためにそのように思うのだろうと考えられる。

***

結局のところ,これらの問題は,単なるデータ(符号列)に過ぎないものを「事実(facts)」と同視することから生じている。

符号列は符号列に過ぎない。

それ以上でもそれ以下でもない。

 

 

|

« AIグラス | トップページ | GPT-5は博士レベルか? »

コメント

コメントを書く



(ウェブ上には掲載しません)


コメントは記事投稿者が公開するまで表示されません。



« AIグラス | トップページ | GPT-5は博士レベルか? »