【世界が震撼】※ミュトスの恐怖..今野忍「こいつはヤバすぎる」今井翔太「猶予は1.2年」安野貴博「政府の対応が遅い」クロード・ミュトスが突然変異で暴走⁉核兵器並みの脅威【AI 選挙ドットコム リハック】
▌ポイント
- AnthropicのAI「Claude Mythos（ミュトス）」がソフトウェアの脆弱性を発見する能力が突出して高く専門家が警戒。27年間見つけられなかったバグを短時間で発見した事例も
- 極端なケースでは銀行の勘定系システムに侵入し預金残高を変えることさえ理論上可能とされる。これはAnthropicが意図したものではなく、学習の中で突然生まれた能力（創発）
- 安野貴博氏の対策提言：①AnthropicへのAPIアクセス権取得 ②国内システムの脆弱性を修正 ③AI安全機関（ASC）の能力強化。日本は英米と異なりアーリーアクセス権未取得
- 専門家は「猶予は1〜2年」と警告。政府の対応の遅さが課題
脆弱性
ソフトウェアの「穴」や「弱点」のこと。悪用されるとシステムが乗っ取られる可能性がある
創発
AIが学習を続けるうちに、開発者も意図しなかった新しい能力が突然生まれる現象。ドラクエのレベルアップで新しい呪文を突然覚えるようなイメージ
アーリーアクセス権
AI企業が開発中の最新モデルを政府機関に先行提供する特権。英米は取得済みだが日本はまだ
ASC
AI安全機関。AIのリスクを評価・管理する政府の専門組織
JTCはもう終わり？ │米中vs日本 フィジカルAI最前線 中島聡が注目の業界は〇〇【伝説のエンジニア 中島聡 × 松尾研究所 金剛洙】
▌ポイント
- JTC（日本型大企業）は解雇できない人件費が「見えない負債」になっておりAI時代に不利な構造。大企業株より少人数×AI活用のスタートアップに注目
- 次の主戦場はフィジカルAI（人型ロボット）。米テスラ・フィギュアはハード+AI一体型、中国ユニトリーは安価なハードを供給しAIモデルは自由化という異なる戦略
- 日本の勝ち筋：ハードのインターフェースを統一・オープン化し、部品（アクチュエーター）は日本企業が競争。その上のAIモデルも日本で作り「安全なロボット」として米国に提供するシナリオが有望
- AIで強化された少人数の弁護士・コンサル・SIerなど「AIパワード型ブティックファーム」が日本でも増加中
JTC
「Japanese Traditional Company」の略。終身雇用・年功序列が残る日本型大企業を指す
フィジカルAI
人型ロボットなど、物理的な身体を持って現実世界で動くAIのこと。テスラのOptimusが代表例
アクチュエーター
ロボットの「筋肉」にあたる部品。電気信号を受けて実際に動く機構。日本企業が得意とする分野
ブティックファーム
少人数の専門家で構成される小規模な法律事務所・コンサル会社のこと