ChatGPTは盗聴アプリ?
下記の記事が出ている。
Three Samsung employees reportedly leaked sensitive data to ChatGPT
engadget: April 7, 2023
https://www.engadget.com/three-samsung-employees-reportedly-leaked-sensitive-data-to-chatgpt-190221114.html
ChatGPTでもSiriでも,アプリの機能をオンにしている限り,人間が発する音声をキャッチし続けている。その音声が自然言語による文の構成となっている場合,自然言語の解析を実行する。この解析の部分に関し,古い世代のAIの考え方を捨て,「物まね方式」を採用したのがこれらのアプリのAIシステムだと言える。「物まね」のためのサンプルを常に収集し,その複製物が記録される。非常に強力な演算能力をもつシステムによってパターンマッチが実行され,最適と思われるサンプルを(そのまま,または,同一性を保持しないで)アウトプットする。そういう仕組みだ。
だから,ChatGPTでもSiriでも,たとえ機密情報に分類(classify)される情報であっても,それが存在する限り,自動的に記録し続ける。
そういうものだと理解して使用している限り,盗聴アプリではない。
しかし,その利用者の半分以上は,そのようなメカニズムが存在すること,そのようなメカニズムが存在することの社会的意味を正確に理解するだけの知的能力や知識・経験をもっていない。若年者のような経験の乏しい者では特にそうだ。
そのような者にとっては,結果的に盗聴アプリとして機能し続ける。
法学上及び政治学上の興味関心としては,「そのようにして集積しているデータの集合体を管理可能な自然人は存在するか」ということに尽きる。そして,仮に存在するとして,「それは誰なのか」が検討の対象となり得る。無論,ハッキング可能な場合,その「誰か」は正規の権限をもつ誰かではなく,敵国の諜報機関や犯罪集団またはテロ組織であり得る。
とりわけ,平時と戦時が常に共存する状況の下においてはそうだ。
| 固定リンク
コメント