https://www.youtube.com/watch?v=WuCQ7PaS_tM
目次
3行要約
- 2026年の情報漏洩は10月末時点で3.8億件と前年の7.6倍。今は「闇バイト空き巣」レベルのAIが、人間の「窓の閉め忘れ」を突いている段階だ。
- 人間のトップハッカー並みとされるAIが中国からオープンウェイトで公開され、早ければ年末にも銀行残高を0にしたり、水道・ガス・下水などのインフラを攻撃したりする「大怪盗ルパン級」の攻撃が可能になる。
- 攻撃側が圧倒的に有利で、完全な防御はできない。それでも個人はパスワードの使い回しをやめ、パスワードマネージャーと2段階認証で被害を遅らせるべきだ。
階層的要約
1. 急増する情報漏洩
- ゲストは東大を休学中の20歳のAI研究者、株式会社AGIハブ主任研究員の林さん
- 「AIの暴走で25歳を迎えられない可能性はコイントス以上」と語る
- AIの問題は「悪用」と「暴走」の2つ。暴走は悪化を続け、悪用は目に見える形になってきた
- 2026年の情報漏洩は10月末時点で3.8億件（前年比7.6倍）
- パスワードなどの認証情報は1.6億件で、前年の31倍
- AIの進歩は指数関数的で、コロナの感染者急増と同じく「理屈では分かっていても実際に起きると驚く」
- 利用している企業のどれかは漏洩すると考えておくべき
2. GMO事件の構図
- VPS（集合住宅の1部屋を借りるようなサービス）の仕組みに穴があった
- 全部屋に入れる「マスターキー」を持つ管理者がおり、サポート時にそのキーを盗める状態だった
- 初期設定のままだと、契約者のパソコンのファイルまで読み取れる「ワープホール」がついていた
- 本当にAIが悪用されたのか、AIがなくてもできたのでは、という議論もある
- ただしGMOだけが弱かったかどうかは本質ではない。AIの進展が速すぎる
3. 「闇バイト空き巣」から「大怪盗ルパン」へ
- 今の漏洩は、1万5,000個ある窓のどれかの閉め忘れを突く段階
- 闇バイト強盗と同じで、新技術ではなく「専門性の低い攻撃が大量にできる」ことが問題
- 2026年4月のAnthropic「Mythos Preview」は、人間のトップ専門家に匹敵すると評価された
- 攻撃能力テスト（ExploitBench）のスコアは、Mythos Previewの14%に対し、一般公開中のClaude Opus 5.5でも73%
- 非公開の最先端AIは、すでに「大怪盗ルパン」級に達していると思われる
- 悪用されるのは、中国のオープンウェイトAI（最先端から約半年遅れ）
- 数百万円のPCで動かせ、「有害なファインチューニング」や「アブリテレーション」で拒否機能を外せる
- 9月に公開された「GLM-5.3」はMythos初期版並みとされ、悪用の結果が出始めるのは年末から年度末ごろ
4. 銀行とインフラへの脅威
- 米国の議員向けデモで、Mythosに「この銀行口座の残高を0にしなさい」と指示し、実際に0にした
- 能力的には数か月〜半年で実現可能になる
- ただし、他行への送金は凍結されやすく、警察も動くためリスクが高い。個人を狙う不正送金の方が「割に合う」
- セキュリティの弱い途上国が先に狙われる可能性（インドではAIによる不正送金が増加）
- 残高はデータなので、バックアップから戻して補填される可能性もある
- より深刻なのはインフラ
- 水道：親ロシア系ハッカーが消毒剤の濃度を100倍にしようとした事例
- ガスのパイプライン停止、港湾のコンテナ管理への攻撃による物流の遅延
- 2000年のオーストラリアでは、下水処理の誤作動で街に下水があふれた
- DXで現実世界をデジタルにつないできたため、サイバー攻撃が現実に直結する
5. どう守るか
- 個人：完全には防げないが「最初にやられない」ことはできる
- パスワードを使い回さない（鍵を1本のマスターキーにしない）
- パスワードマネージャーで、覚えられないほどランダムなパスワードを使う
- 2段階認証を設定する（林さん自身も丸1日かけて全部変更した）
- 震度7でも家具に突っ張り棒をつけるのと同じで、被害を遅らせる意味がある
- 社会：攻撃側が圧倒的に有利
- 攻撃側は一番弱い窓1つを狙えばよいが、防御側は全ての窓を塞がなければならない
- AIでAIを守る取り組みは必要。防御側には半年先のAIと設計図がある、という有利さもある
- ただし中小企業まで自前で対策するのは現実的に難しい
- 次回は「運命の分かれ目」となる2027年の予測
