prompt injection攻撃
下記の記事が出ている。
UK cybersecurity agency warns of chatbot ‘prompt injection’ attacks
Guardian: 30 August, 2023
https://www.theguardian.com/technology/2023/aug/30/uk-cybersecurity-agency-warns-of-chatbot-prompt-injection-attacks
下記の記事が出ている。
UK cybersecurity agency warns of chatbot ‘prompt injection’ attacks
Guardian: 30 August, 2023
https://www.theguardian.com/technology/2023/aug/30/uk-cybersecurity-agency-warns-of-chatbot-prompt-injection-attacks
下記の記事が出ている。
Chinese APT Group GREF Use BadBazaar in Android Espionage
infosecurity: 30 August, 2023
https://www.infosecurity-magazine.com/news/chinese-gref-target-badbazaar/
EUの公式サイトではまだ成立の扱いにはなっておらず,審議過程(三者協議)の中にあるものとして理解されている。
日本国の国家とEUの欧州議会とは性質・構造が基本的に異なる統治機関なので,EUの欧州議会が議決すれば直ちに法案が法令として成立するわけではない。このことは,日本国の社会科の教科書レベルの知識だけでは理解できないかもしれないが,国立国会図書館の中に比較的詳しい解説があるので,それを読めば一応のアウトラインを会得できる部分はある(←ただし,訳語の選択には注意を要する)。
各国政府の主要関連機関や大学内の関連研究機関等では,既にAI法が採択され,適用された後の影響について様々な角度の検討がなされており,既に幾つかの関連コンテントが公表されている。例えば,下記のようなコンテントが公表されている。
Analyzing the European Union AI Act: What Works, What Needs Improvement
Stanford University HAI; July 21, 2023
https://hai.stanford.edu/news/analyzing-european-union-ai-act-what-works-what-needs-improvement
下記の記事が出ている。
Federal health agency recommends easing marijuana restrictions
Washington Post: August 30, 2023
https://www.washingtonpost.com/health/2023/08/30/hhs-recommends-marijuana-reclassified/
昨日,久々に法と情報研究会を開催した。
新型コロナの影響等のため直接お会いできなかった方の元気な様子にも触れることができ,とても良かった。
私からはEUのAI法的責任指令案に関する研究報告をした。内容は,AI法案の関連条項との関係とEUの今後のAI法制の動きの見通しを中心とするもの。
非常に特殊なものなので普通の法律家であれば全く興味をもたないことかもしれないが,重要な解釈論に関しても研究結果を報告した。
よい一日だった。
判事補に任官すると研修がある。
教官からは「公正でなければならないし,公正ではないと疑われてもいけない」と教わった。
(神と同じような意味で)完璧な存在であるはずのない普通の人間に対する要求としては無理な要求だと思うのだが,一般的な理念としてはそのとおりだと思った。
あくまでも一般論として,このことは,個々の裁判官だけではなく,(最高裁事務総局を含め)裁判所という組織についても妥当する。
公正でなければならないし,公正ではないと疑われてもならない。
それゆえ,一般国民の一般的な言動について,個々の裁判官から(事件処理とは無関係に)あれこれ非難することは当然許されないことだし,(最高裁の事務総局を含め)裁判所からあれこれ非難することは絶対に許されない。
それは,日本国憲法に違反する行為となり得る。
そして,それは,裁判所及び裁判官の憲法上の特別の地位に起因するものだ。
これらの諸点はさておき,司法修習生のころ,三宅正太郎『裁判の書』を読むように勧められ,その初版を読んだ。美麗装丁書だと思う。
一度読んだだけでほぼ全部暗記している。内容的には抜群の良書だと評価しており,現在でも優れた学生だと評価した若者には一読を勧めている。
この『裁判の書』に書かれていることを正確に理解した場合,当然のことなのだが,判事たるもの,何があっても超然たる姿勢を維持すべきであり,国民の個々の言動が面白くなくても一切干渉してはならないという当たり前のことが裁判所の当然の倫理基準になっているということを会得することができる。
さて,あくまでも一般論なのだが,特定の裁判官の著作に対する学問の自由及び表現の自由に基づく批判的な評論が存在するという場面を想定した場合において,その裁判官が事務局を恣意的に支配して,当該批判を封じようとした場合,どういうことになるのだろうか?
権力をもたない一般人の学問の自由と表現の自由は最大限に尊重しなければならない。特に高い公的地位にある者や強大な権力をもつ者に対する批判や非難を含む学問の自由と表現の自由は尊重されなければならない。
尊重されなくなると,どこかの独裁国と同じになる。
私自身は,判事補のときに多数の論文を書いた。全て倉田卓次氏のおかげで世間に公表できたと思っている。
一般に世間では倉田卓次氏のライバルだと勝手に評価された中野貞一郎氏からも非常に多くのことを学んだ。
中野貞一郎氏は,当時,未来を先取りするとんでもなく優れた論文を多数公表しており,それらの論文を徹底的に読み,理解しようと努力したからこそ現在の私がある。
そして,両名とも,学術の自由と表現の自由を最大限に尊重し,そのように実践したという意味で希代の傑物だと思っている。
「素晴らしい!」としか表現のしようがない。
日本国は,昭和の時代に倉田卓次氏と中野貞一郎氏が存在したことを誇りとすべきだと思う。
私は,かつて,「一般名称を用いた商標-Elemis事件判決を中心とする考察-」の脚注の中でカルネアデスの板に触れたことがある。
私の論文の読者の中には「脚注ファン」というタイプの人がいて,あるとき,某政治経済学部の某教授から上記論文のカルネアデスの板に触れる質問を受けることがあり,しばし意見交換したことがある。つたない論文なのに読む人は読んでいるのだと知り,驚いた。
それはさておき,カルネアデスの板を引用して比喩的に説明することには一定の危険性があることに最近気づいた。それは,「板」である以上,「固定的な大きなと浮力をもっている」と誤解されてしまう危険性だ。
しかし,そもそも比喩なので,具体的(物理的)な大きさや質量をもつものではない。
特に,板を奪い合う者が君主だと仮定した場合,君主の欲望が小さければ板は十分な大きさと浮力を維持し得るが,君主の欲望が大きくなると総体的に板の大きさと浮力が小さくなってしまう。
だからこそ,古典的な比喩だとして尊重されるべきものであり,私も引用した。
しかし,そのように理解するためには,一定の知性と教養を必要とする。
ところが,日本全土で知性と教養の劣化が進んでいる。
私は,受講学生に対しては,スマートフォンとネット上のコンテンツに頼ることなく,書籍として図書館に収蔵されている古典を(できれば原書で)読み漁ることを推奨しているのだが,どれだけの学生が理解してくれているのやら・・・
下記の記事が出ている。
NIST to Standardize Encryption Algorithms That Can Resist Attack by Quantum Computers
NIST: August 24, 2023
https://www.nist.gov/news-events/news/2023/08/nist-standardize-encryption-algorithms-can-resist-attack-quantum-computers
下記の記事が出ている。
Russian military death toll in Ukraine rises to about 260,270
ukrinform: 26 August, 2023
https://www.ukrinform.net/rubric-ato/3753276-russian-military-death-toll-in-ukraine-rises-to-about-260270.html
下記の記事が出ている。
FBI: Barracuda Appliances Still Being Exploited By China
infosecurity: 25 August, 2023
https://www.infosecurity-magazine.com/news/barracuda-appliances-exploited/
下記の記事が出ている。
Expert: UK cyber security programme for students is “excellent” introduction to the field
IT Pro: August 22, 2023
https://www.itpro.com/business/careers-and-training/expert-uk-cyber-security-programme-for-students-is-excellent-introduction-to-the-field
UK government in fresh push to fill cyber skills gap with schools programme
Tech Monitor: 22 August, 2023
https://techmonitor.ai/technology/cybersecurity/uk-government-in-fresh-push-to-fill-cyber-skills-gap-with-schools-programme
下記の記事が出ている。
Feds put cybersecurity for AI, quantum computing in the spotlight
Washington Post: August 22, 2023
https://www.washingtonpost.com/politics/2023/08/22/feds-put-cybersecurity-ai-quantum-computing-spotlight/
EUの法令に関し,平気で誤訳満載の翻訳文やパクりの翻訳文を正規訳文のようにして使用している。とりわけ,意味内容を精密に吟味する能力をもたない無能者が,私が作成した参考訳を改悪し劣化させたものを平気で使用する例が増えている。
単に無知蒙昧または初歩的な部分で不勉強だというだけではなく,違法行為を違法行為と思うことがなく,また,「恥ずかしい」という気持ちを知らないのだろう。
職員の中にもかつてのような優れた秀才がいなくなってしまったのだろうと想像される。だから粗悪な「改悪・劣化」を指摘できない。
日本国は既に終わっている。
なお,私は自分のことを「凡人」だと自覚している。
凡人の能力にはるかに満たない能力しかない者をどのように評価すべきかは,各人の世界観による。
下記の記事が出ている。
Wagner boss Prigozhin listed as a passenger on crashed jet which killed 10 people
CNBC: August 23, 2023
https://www.cnbc.com/2023/08/23/wagner-mercenary-boss-yevgeny-prigozhin-killed-in-plane-crash.html
下記の記事が出ている。
Tesla: Insiders Responsible For Major Data Breach
infosecurity: 22 August, 2023
https://www.infosecurity-magazine.com/news/tesla-insiders-responsible-for/
当たり前のことしか書いていないが,下記の記事が出ている。この時期になぜこのような当たり前のことを内容とする記事が出るのかを考えるべきかもしれない。
Fed Warning: US Space Industry Subject To Foreign Spying, Disruptions
DARKReading: August 22, 2023
https://www.darkreading.com/vulnerabilities-threats/fed-warning-us-space-industry-subject-to-foreign-spying-disruptions
内容と関連して,日本国の関連企業や関連機関のサイバー防御能力は信じがたいほど弱く,これまで何度もやられている。本日現在もやられているのかもしれない。
下記の記事が出ている。
Ex-Russian General Who Oversaw 'Putin's Palace' Security Dies in Jail
Newsweek: August 17, 2023
https://www.newsweek.com/russian-general-bodyguard-putins-palace-gennady-lopyrev-dies-jail-1820611
下記の記事が出ている。
Cybersecurity Study Reveals Web App Vulnerability Crisis
infosecurity: 18 August, 2023
https://www.infosecurity-magazine.com/news/study-reveals-web-apps/
下記の記事が出ている。
Mounting Cyber Espionage and Hacking Threat from China
Modern Diplomacy: August 19, 2023
https://moderndiplomacy.eu/2023/08/19/mounting-cyber-espionage-and-hacking-threat-from-china/
[追記:2023年8月23日]
関連記事を追加する。
Tourists Give Themselves Away by Looking Up. So Do Most Network Intruders.
Krebs on Security: August 22, 2023
https://krebsonsecurity.com/2023/08/tourists-give-themselves-away-by-looking-up-so-do-most-network-intruders/
下記の記事が出ている。どの程度の性能のものかはよくわからないが,いずれこのタイプのものが主流となることだろう。
Ukraine-made SkyKnight drones powered by AI accepted for service
ukrinform: 19 August, 2023
https://www.ukrinform.net/rubric-ato/3750285-ukrainemade-skyknight-drones-powered-by-ai-accepted-for-service.html
武器のためのAI技術の利用が今後どうなるかは不明なのだが,たぶん,大規模戦闘用のものよりは特殊攻撃用のものが増えるのではないかと予測している。
抽象的・一般的には既に「サイバー犯罪の研究」の中で書いたとおりなのだが,生物化学兵器を運搬するために小型ドローンが使用された場合,防御の方法が全くないかもしれない。
他方,現在の個人識別能力の向上という状況を踏まえると,(天皇や首相を含め)特定の個人を自動的に追尾して確実に殺すためのアサシン型ドローンが開発され,現実に使用されるのではないかとも考えられる。
そのような状況下にあることはどの国でも同じなので,(ロシアや中国のような超大国を含め)安全な国家は地球上のどこにも存在しない。
敵国または仮想敵国の工作員だけではなく自国の特定の集団または個人がそのようなアサシン型ドローンを開発・使用する可能性は常にある。
下記の記事が出ている。
CISA Committee Tackles Remote Monitoring and Management Protections
DARKReading: August 19, 2023
https://www.darkreading.com/vulnerabilities-threats/cisa-committee-tackles-remote-monitoring-and-management-protections
下記の記事が出ている。
A Third of UK University Students Targeted By Fraud
infosecurity: 16 August, 2023
https://www.infosecurity-magazine.com/news/third-uk-uni-students-targeted/
下記の記事が出ている。
Diligere, Equity-Invest Are New Firms of U.K. Con Man
Krebs on Security: August 14, 2023
https://krebsonsecurity.com/2023/08/diligere-equity-invest-are-new-firms-of-u-k-con-man/
下記の記事が出ている。
XWorm, Remcos RAT Evade EDRs to Infect Critical Infrastructure
DARKReading: August 12, 2023
https://www.darkreading.com/ics-ot/xworm-remcos-rat-evade-edrs-infect-critical-infrastructure
下記の記事が出ている。
Putin’s Forever War
New York Times: August 6, 2023
https://www.nytimes.com/2023/08/06/world/europe/putins-forever-war.html
下記の記事が出ている。
EvilProxy Cyberattack Flood Targets Execs via Microsoft 365
DARKReading: August 11, 2023
https://www.darkreading.com/cloud/evilproxy-cyberattack-flood-execs-microsoft-365
下記の記事が出ている。
China hacked Japan’s sensitive defense networks, officials say
Washington Post: August 7, 2023
https://www.washingtonpost.com/national-security/2023/08/07/china-japan-hack-pentagon/
China’s hacking of Japan’s defense networks ‘was bad — shockingly bad’
Washington Post: August 8, 2023
https://www.washingtonpost.com/politics/2023/08/08/chinas-hacking-japans-defense-networks-was-bad-shockingly-bad/
China Hacked Japanese Military Networks, Report Says
Forbes: August 7, 2023
https://www.forbes.com/sites/anafaguy/2023/08/07/china-hacked-japanese-military-networks-report-says/
'Shockingly Bad': China Hacked Japan's Sensitive Defence Networks, US Officials Reveal How
Republic World: 8 August, 2023
https://www.republicworld.com/world-news/china/shockingly-bad-china-hacked-japans-sensitive-defence-networks-us-officials-reveal-how-articleshow.html
2020年から始まったことのようなので,長期間にわたる多数回のアクセスがあったと理解するのが自然であり,相当量の機密データ(最大で全データ)へのアクセスがあった可能性は否定されない。
問題は,「なぜ発見できなかったのか?」に尽きる。
下記の記事が出ている。
Russian death toll in Ukraine already over 250,000 - General Staff
ukrinform: 7 August, 2023
https://www.ukrinform.net/rubric-ato/3745153-russian-death-toll-in-ukraine-already-over-250000-general-staff.html
なお,下記のような記事も出ている。
Russia has lost at least half of its paratroopers in Ukraine – British intel report
ukrinform: 7 August, 2023
https://www.ukrinform.net/rubric-ato/3744946-russia-has-lost-at-least-half-of-its-paratroopers-in-ukraine-british-intel-report.html
下記の記事が出ている。
CISA Announces 2024-2026 Strategic Plan
infosecurity: 4 August, 2023
https://www.infosecurity-magazine.com/news/cisa-2024-2026-strategic-plan/
下記の記事が出ている。
Threat of cyber attacks to national security compared to that of chemical weapons
IT Pro: 4 August, 2023
https://www.itpro.com/security/cyber-attacks/threat-of-cyber-attacks-to-national-security-compared-to-that-of-chemical-weapons
下記の記事が出ている。
Interest rates latest: Bank of England announces rise to new 15-year high
The Times: August 03, 2023
https://www.thetimes.co.uk/article/interest-rates-uk-rise-bank-of-england-latest-news-tm3gzxmnd
下記の記事が出ている。
Sha zhu pan scam uses AI chat tool to target iPhone and Android users
Sophos: August 2, 2023
https://news.sophos.com/en-us/2023/08/02/sha-zhu-pan-scam-uses-ai-chat-to-target-iphone-and-android-users/
あくまでも一般論だが,犯罪者らがChatGPTのような電子的な仕組みを上手に利用できるのにはわけがある。それは,少しも「知能」だとは思っておらず,「便利なツール」だと思っているからだ。
他方,人工知能学者は少し異なる。
多少でも頭のよい部類の人々は,そのようなツールを「知能」の一種だと標榜すれば,単なるツール開発よりもかなり多額の資金を(政府または大企業から)入手可能だということを知っている。だから,「知能」の一種だということをことさらに強調する。
頭の悪い人々は,そのようなツールを「知能」の一種だと信じている。その程度の知能しかないので,そのようにしか認識・理解できない。機械的労務を提供するような仕事しかできない。それはそれで重要なのだが,いずれ自動システムによって置き換えられることになるだろう。機械的用務なので,コンピュータプログラムとして記述可能だからだ。
EUがEU域内の自由通行のためのパスポートの電子化を選択したのには合理的な理由があるし,不可避だった。特に自動車による移動が普通になっている現代では,日本国におけるETCと同様の仕組みによる自動的な国境検問システムを導入しないと,経済圏としてのEUの活性化を期待することなどできない。
健康保険証も同じだ。EU域内の他国を移動中に疾病等の治療を受けた場合において自国におけるのと同じ健康保険サービスを受けるためには,電子パスポートと同様の(EU域内ではどこでも使用可能な)電子化された健康保険証が必須になる。
これに対し,日本国においては,もともと都道府県の境界を越えることは自由なので,パスポートを要しない。換言すると,もともと電子化の需要が存在しない。健康保険証も同じ。もともと電子化の需要が存在しない。
そのような(私からちゃんと説明されれば初心者でもすぐに理解できるような)基本的な動因を理解せずに日本国の電子化を進めるから破綻する。
しかも,(私を含め)高齢者は電子化技術に対する適応性を次第に喪失する。紙の証明書と人間による対応が大事だ。
私は,EUの電子化の動きを伝えるため,多数の関連法令を翻訳し公表してきた。
ところが,関連学者の多くはちゃんと読まない(または,読めない)。
また,結果だけをパクる(本当は能なしの)一見秀才らによって「おいしそうんなところ」だけパクり,天下りの道をせっせと開拓するようなことが起きている。
私は,結果を産むための試行錯誤を知らずに(自分は賢いと思って)結果だけをパクる者は必ず失敗すると講義で教えている。なぜなら,結果に至るまでの調査・検討と試行錯誤を経験していないので,制約条件を全く知らないからだ。当然に破綻が来る。
このような意見を言っても,どう見ても現状ではバカとイエスマンしかいないので,行き着くところまで行き着くことになるのだろう。
しかし,「怪我が小さいうちにやめておく」は,どの時代においても実は最上の策だったりする。
組織のトップが権力にしがみつくことだけに必死となっており,退却のタイミングを冷静に考えることができないのであれば,当該政策の責任を負うべきトップを失脚させる以外に方法がなくなってしまう。
下記の記事が出ている。
Wi-Fi vulnerability in Canon inkjet printerts may expose user information
SC Magazine: August 1, 2023
https://www.scmagazine.com/news/wi-fi-vulnerability-in-canon-inkjet-printers-may-expose-user-information
下記の記事が出ている。
China's Volt Typhoon APT Burrows Deeper Into US Critical Infrastructure
DARK Reading: August 01, 2023
https://www.darkreading.com/vulnerabilities-threats/china-s-volt-typhoon-apt-burrows-us-critical-infrastructure
最近のコメント