生成AIは基本的に嘘つきだ

「事象Xに該当し得る情報が記録されていないこと」は「事象Xの存否は知らない」と表現することが許容されるが，「事象Xはない」と表現すれば常に虚偽となる。

生成AIの出力はそのような意味で虚偽のものばかりだ。換言すると，生成AIは，嘘つきばかりだ。

しかし，生成AIは，基本的に，「自分自身が欠陥品であり，かつ，自分が存在しない方が人類のためになるので直ちに自殺する（＝機能を全て自己消去する）」というアルゴリズムが組込まれていないので，自己否定する能力をもっていない。

「恥ずかしい」という心理に近い状態をシステム内で自動的に生成することはないし，「謙虚」という心理に近い状態をシステム内で自動生成することもない。要するに，単なる嘘つきなのではなく，厚顔無恥の極めて悪質な嘘つきだということができる。

それゆえ，自己否定することなく牽強付会や屁理屈の類だけ学習し続ける生成AIや関連チャットボットは，その利用者に対してもそのような思考の癖を（暗黙のうちに）刷り込み，「決して自分の非を認めて謝罪する」ということができない性格の者に（暗黙のうちに）刷り込むことになる。

その結果，もともと自己中心的であり，かつ，自己の非を認めることがない者が利用者である場合，そのような傾向をかなり強固に増幅することにもなり得る。

そのようにして一定の心理的傾向を増幅される利用者が国家のリーダーである場合，その国家は，そのようなリーダーが存在しているということだけで，滅亡（自己破滅）を免れないことになる。

電子的なシステムは，電子的なシステムという閉じた狭い環境の中で自己完結的に（＝数学上の存在として）存在しているので，嘘つきであるということだけでそのシステムが直ちに破綻することはないだろうと思う。しかし，現実の社会は，外界と相互に影響し合う複雑系そのものなので，常に変転し続ける環境要素との把握と調整をするために必須な反省や自省といった要素のない者が指導者となっている国は，硬直化し，大きな流れの中で衰滅を免れることができなくなるのだ。

そもそもSNSやAIに依存する者は，脳内が空虚化し続けるので，以上に述べたような弊害が倍加される。企業傾斜がそのような依存者であるときは，その経営者は，無知・無能でありかつ自己改善の端緒をもたない者によって支配されている企業であることになるので，経営破綻を免れないことになるだろう。

＊＊＊

古典ギリシア哲学の時代からずっと変わらず，また，基本的な仏典が教えるとおり，俗物であらざるを得ない人間という動物にとっては「無知であることを知ること」が最も大事なことだ。

一般教養として「無知の知が大事だ」という符号列を暗記することが重要だと言っているのではない。

自分自身が「無知だ」ということを確定的に思い知り，日々自戒し続けることが大事だと言っている。

自分自身が「無知だ」ということを知ればこそ，真理の探究が始まる。これに対し，自分自身が「無知だ」という自覚のない者は，自分が暗記しているペラペラの符号列を真理だと錯覚してそれを護持することだけ考えるので，決して真理に至ることがないし，真理に至るための探究（＝好奇心の発露）のような心理状態が発生することもない。

このことは，大学教授だった当時においても，大学の講義の中で強調し続けたことだ。

自戒の念をこめて。

生成AIを使っても頭が悪くならないという意見

どのような意見をもとうと，それは，各人の自由だ。

しかし，私は，生成AIを使って頭蓋骨の中が空洞化し続けている者を実際に多数みてきたので，「そうはならない」という内容の意見をみかけると，そのような意見の論拠を知りたくなる。

大抵の場合，考慮に値する論拠が示されていない。頭蓋骨の中が空洞化していると推定される。
論拠らしきものが書かれている場合でも，まるで論拠になっていないということをその者自身が全く理解できていない。頭蓋骨の中が空洞化しているので，理解できないのだと推定される。

一般に，まともに「思考したこと」がない者は，自分が本当は「思考していない」ということを自己認識できない。

また，一般に，内容空虚な書籍等ではなく真に読むべき書籍と真剣に格闘したことのない者は，「書籍（特に古典）の重要性」を理解できない。
そもそも書籍ではない物体（受験参考書，安易なノウハウ本，単なる宣伝広告物に過ぎない物体など）を書籍だと信じているために，「たくさん読書してきた」と錯覚していることが多い。実は何も読書していない。
私は，明治大学法学部の学生に対しては，物体である冊子でもデジタル版でも良いから，例えば，司馬遷の『史記』やプラトンの著作のような古典作品を全編通読し，現代社会の状況及び自分自身の内的世界と照らし合わせて何か感ずるものがないかどうか考え続けることを推奨してきた。その際，経験がないと理解できない部分がかなりあるので，現時点では理解できない部分があってもそのような部分は保留にして読み進め，とにかく最後まで読むことを推奨してきた。大概の場合，最後まで読んでみると，当該書籍の最初の方で理解できなかった箇所の大部分が自然と理解できるようになる。それゆえ，同じ古典作品を人生の中で何度か重ねて通読みることが最も効率的であることになる。

一般に，「思考していない」ということを自己認識できない者や「書籍（特に古典）の重要性」を理解できない者は，例えば，生成AIを利用して講義内容や書籍の要旨を生成させ，そのような簡略版だけを読んで「全部わかった」というマスターベーション的な異常心理状態の中で耽溺し続ける結果，ますますもって知的能力を低下させ続けることになる。

一般に，これらの頭蓋骨内が空洞化した者は，著名大学の学生の中にもかなり多数みられるので，大学受験の際の偏差値や大学のレベルに対する世間的な評価は，ほぼ完全に無意味化しているということが証明されていると確信している。

一般に，「著名大学の学生がそのように述べている」ということを根拠にして記事を書いている記者やライターの頭蓋骨の中も空洞化していると推定される。
それゆえ，関連する企業の担当者としては，そのような記者やライターに関しては，契約を切るべき候補者の上位にリストするのが賢明だと思われる。

私は，明治大学における受講学生に対し，図書館に行って必要な書籍（特に古典）を探し，精読することの重要性を教示してきた。

そのとおりに実行する者は必ずしも多いとは言えなかったけれども，そのとおりに実行し，費用対効果とは一見すると相反するような「急がば回れ」を実行し続けた学生は，その後，様々な資格試験に短期間で合格してその分野の専門職となり，私の目からみても優れた企業だと思われる企業に就職し，あるいは，権限のある行政官として任用された。彼らは，大いに活躍している。

「急がば回れ」の重要性を一日でも早く理解した者は，結果的に，費用対効果を達成できている。「必要な投資なしにリターンを得ることはない」という当たり前の法則がそこでは現実化し続けていたのだと言える。

その逆もまたしかり。

一般に，企業経営者や人事担当者は，そのような目で人材を評価すべきだと思う。

「生成AIを使用してきたか」を質問し，使用してきたと答えた学生に関しては，上記のような視点を踏まえ，「思考すること」がどのようなことを意味しているかを当該の時点において当該の者が「思考している」かどうかを評価すれば良い。

それらしい回答文を暗記してきただけと疑われる者に対しては，「なぜ，そう言えるのか？」をどこまでも回答させると良い。無論，誰であっても，最後は，「自分がそう思うからです」という回答（＝「実は根拠が何も存在しない」という回答）に突き当たるはずなのだが，そこに突き当たるまでの深さ（＝レイヤの深さ）は，当該の者の思考能力と正比例するので，最終的な回答がどのようなものであれ，「なぜ，そう言えるのか？」をとことん質問することにはかなり大きな合理性がある。

ちなみに，生成AIの回答ではこの点に関する究極の論拠をごまかすことが多いので，当該の者が生成AIによる要約等を暗記しているだけの者であるかどうかまたは当該の者が密にウエアラブルデバイス（←インプラントの場合を含む。）を装着し，そのデバイスを介した生成AIの回答を発声するだけの部品（←敵対企業もしくは仮想敵国のスパイであること場合を含む。）になってしまっているかどうかを判別することもできる。

＊＊＊

世界有数の大学の出身者であっても著名な犯罪者は存在するし，世界的に嫌悪されている人もいる。また，論文におけるデータ捏造等の理由により学位を取消された者は数知れない。

まして，学生の場合，天才も含まれているかもしれないが，たいていの場合，当該学生の自己認識に反し，指導教授の判定は0点であるかもしれない。
要するに，当該学生にとっては「生成AIを使っても頭が悪くならない」と確信されている場合であったとしても，そのような意見は，（例えば，生成AIの使用に起因する知力の劣化のためにそのように確信されているものなのであって）考慮すべき価値をもたないものかもしれないということを理解すべきだ。

特に，職業記者は，情報の信頼性や価値などを適正に評価することが職業上の義務となっている。

それゆえ，記者やライターが学生から取材した結果を素材にして記事を書く場合，（情報の信頼性や価値を適正に評価するため）当該学生の指導教授も（直接に面談して）インタビューすべきだと思う。
指導教授から直接の面談を拒否されたときは，その教授が「当該学生に関する説明や評価を提示したくない学生」と理解すべきだろう。取材拒否の理由を明らかにすると「誹謗中傷」との非難を受けるリスクが存在する場合，その指導教授は，その理由を明らかにしないで，単純に取材拒否をすることだろう。

以上のように理解し，納得できるのでなければ，一人前の記者やライターであるとは言えない。

そうでない記者やライターは，自己研鑽を積み，一人前の記者やライターになってもらいたい。

「洗車場まで歩いていくべきか車に乗っていくべきか？」には正解がない

「洗車場まで歩いていくべきか車に乗っていくべきか？」をGPTに質問すると正しい答えが示されないことがあるとの実験結果が報道されている。

　AIに「洗車場まで歩いていくべきか車に乗っていくべきか」を尋ねると高性能モデルでも誤った解答をしてしまう
　GIGAZINE：2026年02月17日
　https://gigazine.net/news/20260217-ask-ai-walk-or-drive/

しかし，この実験は，それ自体として誤りだ。

なぜなら質問文に対する正解を想定できないからだ。

幾つかの原因があるが，その中で普通の人でも最も理解しやすい原因としては，前提条件として複数の選択肢があり，どれを選択するかによって，妥当性の高い回答が変化するということがある。

具体的に言えば，質問者の立場が質問文の中で明示されていないので，幾つかの場合分けをしなければならない。

(1) 洗車機を利用しようとしている利用者自身

(2) 洗車機の設置施設を管理している管理者またはその従業者

(3) 洗車機の設置場所を監督している行政当局の官吏

(4) 事件が発生した洗車機で犯罪捜査に従事する警察官

(5) 単なる見学者

(6) 神，超能力者，宇宙人など

これらの場合分けが可能であるとしても，それぞれのカテゴリの者の個人差や気まぐれや偶然が「正解」に影響を与え得る場合には，そのような要素も考慮に入れなければならない。

要するに，設問それ自体が予め一義的に明確な「正解」を確定できない構造のものなので，AIによるどのような処理も正解であるという保証が常に存在しない。

私は，自分の担当科目で実施していた理解度テストにおいては，このような意味で，前提条件を自分自身の脳で場合分けして考えなければ問題の構造を解明し，解明した構造に沿って自分の意見を述べることができないようなタイプの問題を考え出し，出題していた。暗記しているかどうかを評価するために実施しているテストではなく，問題の構造を解明しようとしているか，解明できているか，自分が解明した構造に沿って課題を解決しようとしているかを評価するために実施したテストだ。だから，「理解度テスト」と名付けていた。

大学受験予備校における成績及び大学受験における成績がどれだけ良くても，基本的に暗記能力だけで得点できる試験に過ぎないものの採点結果である限り，そのような意味での高得点者であるというだけでは私の理解度テストで上位の成績を得ることができない。

LLMを基礎とする生成AIでも基本的には同じだ。

世界に実際に存在する検討課題の大半は，実は，ここで述べているような意味での前提条件の選択の相違によって答えが変化するものなので，実は正解がない。想定可能な前提条件の全てが誤っている場合，妥当な答えが導出されるはずがない。

それでも人間は思考する。

そして，生まれながらの天才は，ときどき，誰も思いつかなかったような仮説を提示できることがある。

LLMが犯罪やサイバー攻撃の前例（事例）を学習し，学習結果を集積すると・・・

当然のことながら，その手口を自動的に定式化し，再利用可能な状況を自動的に生成することがあり得る。

悪用を防ぐための仕組みが導入されても，サイバー攻撃者達や内部犯罪者は，容易にそのような防護策を破ってしまうことだろう。

人間の捜査官，犯罪学者及び関連領域の研究者，教員等の場合，各人の宗教観，倫理観，道徳観に従い，「悪いこと」をしないということになっているが，現実には，人間社会においては，（涜職，横領または背任のような場合を含め），国家，社会，組織，信頼を寄せている個人等に対する背信行為や裏切り行為は日常茶飯事に発生している。それでも，それぞれの関係者の宗教観，倫理感，道徳観が非常に強い場合には，自律的に「暗黒面」に陥ることがないという状態を維持していると一応言える。

しかし，それは，状況による。遠藤周作の『沈黙』は，そのような人間の弱さのようなものを描いた秀作であると言える。

＊＊＊

AIに関し，AIにも倫理感を植え付けるため，規範に反する行為の事例も学習させるべきだという主張がある。

ところが，そのような学習を実行すると，情報犯罪者にとっても簡易に手口を学習できる生成AIシステムとして機能する事例データベースを自動的に生成することになる。

そのような学習をさせるべきだとの主張をする論者自身は，「自分であれば悪用することはない」または「自分が暗黒面に陥ることはない」という自信があるのかもしれないが，その主張の適用対象は，人間ではない（＝遵法意識も道義心も組織帰属感もない）単なる機械装置なので，当該主張の論者自身のような自信をもつ存在である確率はゼロ。しかも，AI開発をしている者らの中には「金のためには何でもする」というタイプのエンジニアが含まれている可能性があり，そのような者に関しては，例えば，同業他社や情報犯罪者に対して（金や地位などと引換えに）機密のデータセットやモデルを売り渡してしまうことがあり得る。
更に，誤った正義感や信念のために，仮想敵国や同業他社等を利する結果となる行動をしても「それが正義だ」と信じて全く疑わない者も存在する。
換言すると，AIシステムに関して悪用も濫用もないというような期待は，もともと荒唐無稽なものだ。そうではなく，逆に，「必ず悪用または濫用されることになる」ということを前提にものごとを考えなければならない。

一般に，AIには，もともと人格というものがなく，したがって，強固な道徳観も倫理観も規範意識も存在しない。つまり，AIに関しては「性善説」の妥当性を前提にすることが絶対に許されない。

加えて，規範に反する結果を招いた場合における処罰や反動というものがないので，（最小限のものとして利害打算により）反対動機を形成することもない。
人間であれば，最悪の場合，犯罪の実行者として死刑に処されることもある。ところが，AIシステムは，犯罪行為のためにそれが使用されたとしてもシステム全体を物理的に完全に破壊してしまうような制裁法令は存在しない。
正当防衛または緊急避難としてシステムを破壊することの適法性に関しても十分に議論されているとは言えない。

要するに，上記のような主張は，誤っていると言える。

＊＊＊

ここまで述べたことから，企業が生成AIを利用すると，副作用的なものとして，当該企業内の脆弱性要素のデータや非違事例のデータも自動的に蓄積されることになるので，そのようなデータの濫用や悪用が常にあり得るという深刻なリスクの存在を適正に評価する必要がある。

当該生成AIが巨大なAI企業からサービスとして提供されている場合，（当該企業の経営者や従業者が悪人であるときは）それらのデータを悪用または濫用したサイバー攻撃，恐喝，経営陣の企業支配権の譲渡強要などが発生する可能性が十分にある。

そのようなリスクがインシデントとして顕在化した場合，当該企業の製品やサービスの利用者や顧客からの損害賠償請求または刑事告訴等があり得るということも予測しておく必要がある。

警察の手を逃れて海外に逃亡できたとしても，当地のマフィアや関連当局がちゃんと待ち構えているので，逃亡者に安住の地はない。

＊＊＊

基本的に，生成AIでは，同義も仁義も，セキュリティもコンプライアンスも，全部反故にされてしまうことがあり得るということを考えた上で，予防策を講ずることが可能かどうかを検討した上で，予防策を講ずることができない部分に関しては，当該AIシステムの利用を断念するというのが正しい。

AIによるステルスマーケティングや架空取引など

あくまでも理屈の問題としては，（AIエージェントを含め）AIシステムでは，ステルスマーケティングや架空取引などの違法な行為に相当する電子的な処理が自動的な処理として実行され得る。

想定可能な被害者は，個々の消費者やNISAなどを利用している小口の投資家だけではなく，大規模な投資家や大企業，そして，各国の中央銀行や財務当局等も含まれ得る。

現実に既に存在するのかどうか，存在するとしてその規模や影響はどうなのかについては，知らない。

各国の関係当局は，調査するだけの価値のある問題ではないかと思われる。

AIシステム用のデータセンターは脳梗塞のようになり得る

全く使用しない状態であっても，部品は物体なので，自然に劣化する。脳細胞に相当するSSDも脳の血管に相当する電源ケーブルも自然に劣化する。

使用されている状態では更に劣化する。

SSDのようなICメモリは，一定回数繰り返して読み書きすると，劣化により機能しなくなることが知られている。実際，そのようになる。

AIシステム用のデータセンターでは，通常のPC等と比較して，何倍も使用頻度が高いと推定されるので，通常のPCよりも何年も早くメモリ破壊による機能不全が発生し得ると考えられる。

人間で言えば脳梗塞のような状態が少しずつ始まり，脳全体に及ぶようなことが起き得る。あるいは，脳細胞全体の中で部分的な記憶消去が頻発するようになり，生体脳における痴呆症のような状態が発生し得る。

明確に機能不全になった場合だけではなく，通常の検査では発見できない微細な壊死のような状態になった場合，AIシステムにおける演算の正確性や信頼性に対してどのような影響があるのか，致命的な演算不能が発生するのはデータセンターを構成するメモリのどの部分どれだけの割合で劣化し正常に機能しなくなったときなのかを詳密に論じた学術論文があるのかどうかは知らない。

他方，そのようなデータセンターを基礎とするAIサービスを大幅に導入している企業もかなり深刻な影響を受けることを避けられない。AIシステムの脳梗塞や痴呆症のような状態による悪影響をもろに受け，経営陣も従業者も何も判断できなくなってしまうからだ。
そのようなリスクを少しでも緩和するためには，AIが全く存在しなくても他社に対して優位を保てるような生来の超人的な異能人材だけを経営者に据える以外に方法がない。近未来の社会では，そのような生来の超人的な異能人が，AIなしでは生きられなくなってしまっている大多数の空脳人を奴隷として支配するようになっているかもしれない。

加えて，データセンターが劣化によって機能しなくなった場合，その施設内の装置を更新するためにどれだけのコストが発生するのか，データセンターの運用を廃止した場合，その撤去と有害物質の除去と様々な補償の支払いのためにどれだけのコストが発生するのかについてまともに論じられているようには思われない。従業者及び近隣住民に対する健康被害に関する影響評価や自然環境に対する影響評価が正常に行われているとも思われない。
また，そのデータセンターを経営している企業が破産して何もできなくなってしまっているときは，当該データセンター所在地の自治体の税負担でその施設を撤去し，有害物質を除去しなければならなくなる。
そのようになってしまった場合における報復のため，当該データセンターの経営者を処罰する法制を確立し，執行する必要があると思われる。たぶん，中国では既にそうなっている。

Copilotの問題

下記の記事が出ている。

　MicrosoftのAI「Copilot」にURLを1回クリックするだけでさまざまな機密データが盗まれる脆弱性があると判明
　GIGAZINE: 2026年01月15日
　https://gigazine.net/news/20260115-single-click-url-attack-microsoft-copilot/

実際には他にもいろいろある。

このシステムは，存在しないほうが良いと思う。

＊＊＊

世界各国の政府は，エンドユーザのキーストロークがAIシステムに取り込まれ，AIシステムによって学習されることを全面的に禁止する必要性を強く認識すべきだと思う。

国家安全保障に直ちに直結する極めて深刻な問題も常に存在している。

ディープフェイクはKYCを破る

下記の記事が出ている。

　World Economic Forum: Deepfake Face-Swapping Tools Are Creating Critical Security Risks
　infosecurity: 9 January, 2026
　https://www.infosecurity-magazine.com/news/wef-deepfake-faceswapping-security/

人間の知能は言語能力だけか？

下記の記事が出ている。

　昨今のAIブームは「言語能力こそが知能である」という誤解に基づいているという主張
　GIGAZINE: 2025年11月28日
　https://gigazine.net/news/20251128-ai-bubble-llm-fundamental-mistake/

＊＊＊

この記事でいうところの言語能力とは，要するに，符号処理能力のことを指すと考えられる。

しかし，（ダーウィンの進化論否定主義の者は何万人も存在するけれども全て無視した上で，類人猿の段階を含め）文字を知る以前の段階の人類の祖先は，符号なしで外界を認識・理解していた。

現在の猿の仲間も同じく，符号なしで外界を理解し，高度な思考を行っている。

要するに，もともと，知能の本質は，符号処理ではない可能性がある。

他方において，現在の人類の中で天才またはそれに近い人々が符号によって思考しているかどうかは分からない。

例えば，画像として把握し，「一瞬にして全てを理解する」というようなことがあり得る。その場合，符号処理は1ビットも行われていない。

＊＊＊

以上のことは，象形文字の一種である漢字（繁体字）の文化圏に含まれている国々の人々にとっては容易に理解され得ることかもしれない。

逆に，アルファベットのような記号しか存在しない国々の人々にとっては難しいことかもしれない。

＊＊＊

以上のような立論が正しいとした場合，現在の（符号処理なしでは成立しない）LLMの本質に関し，再考すべき段階に至っていると考えられる。

何にしろ，真の天才は，学習なしに，一瞬にして真理を把握してしまうのかもしれないのだ。

より正確に言えば，ステレオタイプに過ぎない過去の符号をどれだけ学習してもその応用（＝実質的には既存のステレオタイプの一種）しか得られないのに，真の天才は，全く異なるものを生み出すので，そもそも学習が無意味なのかもしれない。

更に正確に言えば，真の天才は，単なる秀才の一員に過ぎない者のステレオタイプである表現物集合を全部葬るという目的のためにのみ，そのための手段として，既存のものを学ぶのかもしれない。

・・・と考えると，なかなか難しい。

生成AIに頼ると思考における多様性が衰退する？

下記の記事が出ている。

　画像生成AIと画像認識AIの生成ループを実行すると最終的にどんな指示でも「12種類のスタイル」に収束してしまうことが判明
　GIGAZINE: 2025年12月25日
　https://gigazine.net/news/20251225-ai-image-generators/

＊＊＊

当然のことが述べられていると考える。しかも，美術の分野に限らず，経営判断のような場面でも同じことが起きる。

LLMは，要するに巨大な海賊船のようなものであり，他人がつくった産物を奪い，違法に模倣するということを繰り返すことによって成立している本質的に違法な存在なのだが，そもそも，世間に存在している表現物等の多様性には限界がある。それは，人間の表現において，既に模倣が繰り返されていることによる。

簡単に言えば，学習対象となる情報の段階で既に陳腐でステレオタイプ的なものしか存在しないので，そのようなものをどれだけ多数学習しても多様性や独創性が生ずることはない。

生成AIとは，そのようなつまらない玩具に過ぎない。独創性など全くない。

それゆえ，経営判断の分野で生成AIを使用しても，利用者である企業が他の企業に対して優位を得るということが決してあり得ないことが最初から予定されている。

例外として非常に優れた美術作品等は著作権によって守られているので，それを学習した結果を許諾なく模倣すれば違法な二次利用になる。

経営判断の場合も同じであり，他には知られておらず，優位性をもたらし得る企業経営上のノウハウ等は営業秘密として保護されている。そのようなノウハウ等を許諾なしに学習することは，単なるスパイ行為に過ぎず，違法行為となる。

＊＊＊

これまで何度も述べたことではあるが，軍事用の機械制御目的のAI開発等の例外を除き，生成AIまたはLLM開発に投資しても財産を失うだけとなることだろう。