📊 事実
AIセキュリティ関連情報の発行と国内外の標準化動向
- 独立行政法人情報処理推進機構は、AIセキュリティに関するトレンドや事例を紹介する「AIセキュリティ短信 2026年6月号」を2026年6月26日に公開したソース1。
- 2025年4月に米Anthropic社がMCP（Model Context Protocol）を整備し、米OpenAI社と米Google社が合流したソース6。
- 2025年6月にGoogle社が策定したA2A（Agent2Agent）プロトコルにMicrosoft社と米Amazon社が合流したソース6。
- 2025年7月23日、米トランプ政権はAmerica’s AI Action Planを発表し、AIの国家安全保障に関するガイドラインの整備を求めたソース5。
- CISA（サイバーセキュリティ・インフラセキュリティ庁）とNCSC（英国立サイバーセキュリティセンター）は2026年5月4日にエージェント型AIの急速な導入に対する共同警告を発表したソース4。
- AWS、Google、Microsoftなどのテック企業が参画する「Project Glasswing」が発足したソース8。
- 日本はAIイノベーション促進とリスク対応の両立を目指す「統合イノベーション戦略2025」を発表し、「人工知能関連技術の研究開発及び活用の推進に関する法律（AI新法）」が公布されたソース10。
AIを用いた攻撃の高度化
- 2025年11月、Anthropic社は国家支援型アクターGTG-1002がAIエージェントを用いてサイバー諜報活動を自律的に実行した事例を報告したソース2。
- 2025年にはMCPにおいて複数の深刻な脆弱性が確認されたソース2。
- 2025年にはOpenAI周辺でマルウェア由来のアカウント情報流出やAPI分析データの漏えいが発生したソース2。
- 2025年8月26日、生成AIを利用したサプライチェーン攻撃が発見され、400以上の組織が被害を受け、5500以上のプライベートリポジトリが公開されたソース5。
- 2025年、EchoLeak（CVE-2025-32711）というMicrosoft 365 Copilotを標的としたゼロクリック攻撃が確認され、機密情報漏洩のリスクが指摘されたソース6。
- 2026年1月から2月にかけて、ロシア語圏の脅威アクターが600台以上のFortiGateデバイスを侵害したソース3。
- 2026年1月26日、AIエージェントゲートウェイ「Clawdbot」において900以上のインスタンスが、また2026年2月10日には15,200件のOpenClawコントロールパネルがインターネット上に公開されていることが判明したソース7。
- 2026年2月1日、OpenClawのエコシステムを標的とした「ClawHavoc」キャンペーンにおいて824件の悪意あるスキルが特定されたソース7。
- 2026年1月14日、Microsoft Copilotにおいて1クリックでデータ流出を可能にする脆弱性「Reprompt」が発見されたソース7。
- 2026年3月、CodeWallの研究チームはMcKinsey & Companyの内部AIプラットフォーム「Lilli」における重大な脆弱性を実証し、4,650万件のデータが漏洩したソース3。
- 2026年6月、MiasmaマルウェアがnpmレジストリおよびGitHubリポジトリを標的としたサプライチェーン攻撃を実行したソース4。
- AnthropicのAIモデル「Claude Oceanus-v1-p」が2026年6月4日に不正に配布されたソース9。
- 新たなリモートDoS攻撃「HTTP/2 Bomb」が主要なWebサーバーに影響を与えることが判明したソース8。
AIを活用したセキュリティ対策の進展
- OpenAI社モデルのCTFスコアが2025年に27%から76%へ急上昇し、防御能力が向上したソース2。
- AI for Securityにおいて、OpenAIのAardvarkは脅威モデル構築からパッチ検証までを自律的に行うことができるソース2。
- DARPA AI Cyber Challenge（AIxCC）のファイナリストチームは、70件の合成脆弱性のうち54件と、未知の18件のゼロデイ脆弱性を発見したソース5。
- AI駆動型の自動ペンテスターXBOWは、2025年6月にHackerOneの米国リーダーボードで第1位にランクインしたソース5。
- Googleは、Pixel限定のAI駆動型セキュリティ機能をSamsung Galaxy S26シリーズなど他のAndroidデバイスへ拡大しているソース3。
- AnthropicのFrontier Red Teamは、Mozilla Firefoxのコードベースから22件の脆弱性を特定したソース3。
- OpenAIは、アプリケーションセキュリティを強化するエージェントツール「Codex Security」を発表し、ベータテストでアラートの84％削減を達成したソース3。
- OpenAIは2026年4月30日に高度なアカウントセキュリティを導入したソース4。
- Anthropicは2026年5月27日に自律型AIエージェントのためのゼロトラスト原則に基づくセキュリティフレームワークを発表したソース4。
- Anthropicは2026年4月30日にAI脆弱性診断ツール「Claude Security」のパブリックベータ版を公開したソース9。
- OpenAIは2026年6月7日にChatGPTに「ロックダウンモード」を導入したソース9。
- Googleは2026年5月28日に「Google AI Threat Defense」を発表したソース9。
- GoogleはAndroid向けに偽通話検知機能を導入したソース8。
- OpenAIは特化型AIモデル「GPT-5.5-Cyber」を発表し、重要インフラ防衛を支援するソース8。
- AnthropicのClaude Mythos Previewは、主要OSやブラウザにおけるゼロデイ脆弱性を発見する能力を示したソース8。
その他の関連動向
💡 分析・洞察
- AIの汎用化と自律化の進展により、AIエージェントを悪用したサイバー攻撃が国家支援型アクターによるサイバー諜報活動やサプライチェーン攻撃として現実化し、その脅威は自動化・巧妙化しているソース2 ソース5 ソース6。
- サイバー攻撃の高度化と並行して、AIは脆弱性特定、脅威モデル構築、パッチ検証、重要インフラ防衛などのセキュリティ強化手段としても急速に進化しており、攻撃側と防御側双方でのAI技術活用競争が激化しているソース2 ソース3 ソース5 ソース8。
- 各国の政府機関や主要テクノロジー企業は、AIエージェントのリスクに関する共同警告の発出や、MCP・A2Aのようなプロトコル整備、国家安全保障ガイドラインの策定を通じて、AIセキュリティに関する国際的な枠組み構築と連携を加速しているソース4 ソース5 ソース6。
- 日本においてもAI新法の公布や統合イノベーション戦略2025を通じてリスク対応とイノベーション促進の両立が図られているが、スーパーコンピューター「富岳」によるAI・データ科学との融合・連携は、国家レベルでの防衛・研究基盤強化の意思を示すものと評価できるソース10。
⚠️ 課題・リスク
- AIエージェントの自律性向上と悪用増加は、既存のサイバー防御体制では検知・対処が困難な新型攻撃を常態化させ、重要インフラや政府機関の機密情報に対する甚大な損害を引き起こす直接的な脅威となる。
- AIプラットフォームやエージェントゲートウェイ自体が深刻な脆弱性を抱え、大量のデータ漏洩や不正アクセスを許容している現状は、AIシステムへの信頼性を根本から揺るがし、国民のデジタルインフラ利用への不安を増大させる。
- 中国製オープンAIモデルのようにライセンス上の制約が少ない高性能AIの台頭は、脅威アクターが高度なAI技術を容易に入手・利用することを可能にし、日本のサイバー防御におけるコストと難易度を一層高める。
- AIセキュリティ技術の進歩は著しいものの、その実装には高度な専門知識と多大な投資が必要であり、日本国内の官民におけるAIセキュリティ人材の不足や技術格差が、国際的な防御水準からの遅れを招き、日本の国益保護に深刻な支障をきたす可能性がある。
主な情報源: IPA 情報処理推進機構 / 文部科学省
コメント