Whisperの幻覚症状？

下記の記事が出ている。

　OpenAIの文字起こしAI「Whisper」が幻覚を起こし文章を捏造すると研究者が指摘
　GIGAZINE: 2024年10月27日
　https://gigazine.net/news/20241027-openai-whisper-hallucination/

＊＊＊

一般に，口頭の会話による場合でも書面による情報伝達の場合でも，そもそも完全な文というものが滅多に存在しないので，情報の受け手は（自分の主観に従って）空隙の部分または欠陥のある部分を任意に別の語や文で置き換えながら情報内容を解釈している。

つまり，これを定式として一般化すると，最も厳格な意味では，「会話は常に成立しない」。互いに空想し合っている状態しか存在しない。

私は，このことに関して，サンテグジュペリの『星の王子さま』の最初の部分（小さな複数の星を移動してその星の住人と会話しようとするくだり）を引用しながら大学の講義で説明してきたし，このブログ上でも何回か書いたことがある。

理論的にはそうなのだが，それぞれの主観（脳内）では「会話が存在している」と仮定して情報処理が実行されているので，そのような主観的な意味での仮定的な情報操作を迅速に実行できる人は「頭が良い」と評価されることが多いし，その逆もまたしかり。

これは，生体における言語処理では不可避のことであり，当たり前のことであり，特に奇異なことではない。

このことを踏まえると，上記の記事の中で指摘されている「幻覚」は，人間の脳内で日々実行されている仮定や推定と同じ特徴（恣意性，非信頼性，架空性など）をもつものだということを理解することができる。

要するに，会話や文の内容の理解という文脈において，「完璧な解釈」が成立することはあり得ないことであるし，そうである以上，「Whisper」が標榜するような機能は，どのような条件下においても常に欺瞞的なものであらざるを得ないという結論になる。

以上のようなことを十分に理解している専門家が補助手段として利用することには一定の有用性があるかもしれないが，一派向けの製品またはサービスとして提供された場合，かなり大きな消費者被害が恒常的に多発することを避けることができない。

それゆえ，現実にそのような大規模な消費者被害や社会的混乱等が生じるようになる前に，市場監視または消費者保護関係の官庁の担当者には，『星の王子さま』を読み，よく考えることによって，ものごとの本質を事前に理解しておくことを強くお勧めする。

なお，そのような社会的混乱は，特定の国家によって，軍事的謀略の一部として意図的に発生させられることがあり得る。