生成AIボイスチェンジャーアプリのサイバー攻撃のための悪用
下記の記事が出ている。
AI Voice Generator App Used to Drop Gipy Malware
DARK Reading: May 25, 2024
https://www.darkreading.com/threat-intelligence/ai-voice-generator-used-to-drop-gipy-malware
一般に,生成AIには自律的な「知性」も「理性」も「倫理観」もないので,その利用者の意図や目的とは無関係に,要求された仕事を処理し,求められた出力を生成する。
人間であれば,直観的に怪しいと感じたら,上司に相談するとか,警察に通報するとか,(状況次第では)サービス提供を拒絶するとか,悪用を防止するための行動をとることがあり得るが,生成AIは,断片的に特化された機能を自動実行する仕組みの一種に過ぎず,統合的な「人格」のようなものは最初から全く存在しないので,そもそも悪用防止の機能が全く含まれていない。
それゆえ,私は,最近,「人工知能」という語を使用することをやめ,単に「自動化された処理」と呼称すべきだということを提唱している。
そもそも単なる自動化された処理に過ぎないものでも外形的要素だけから「知能」として判定すべきだという誤った考え方を植え付けてしまったことについては,チューリングの責任が非常に大きい。
しかし,彼は,本当は,自然人の生体脳における「知能」の本質を全く理解していなかったと思われる。
それゆえ,これまで,私は,チューリングに対してあまり敬意を表してこなかったし,今後もそうだろうと思う。
| 固定リンク
コメント