AIアシスタントを隠れたC2チャネルとして悪用する手法に警鐘
チェック・ポイント・リサーチ（以下、CPR）は、ウェブブラウジング機能を備えたAIアシスタントが、将来的にコマンド＆コントロール(C2)の隠れた中継役として悪用される可能性を確認したと発表した。AIサービスの普及に伴い、正規通信に偽装した悪意ある通信が検知を回避するリスクが高まっていると警告している。
AI通信に潜む新たな攻撃対象領域
CPRによると、AIサービスが広く利用され暗黙の信頼を得るにつれ、そのネットワークトラフィックは通常の企業活動に溶け込みやすくなっている。これにより攻撃対象領域が拡大しているという。
AIを介したC2通信は、正規のAI通信に偽装することで攻撃者の通信を隠蔽し、従来型の検知を回避する可能性があると指摘している。
現時点では、この手法が実際の攻撃キャンペーンで悪用された事例は確認されていないものの、AIサービスの普及によって攻撃者が悪用可能な領域は拡大しているとしている。
マルウェアは「AI支援」から「AI駆動」へ
CPRは、AIがすでにマルウェア開発支援やソーシャルエンジニアリングの自動化に利用され、サイバー犯罪への参入障壁を引き下げていると説明する。AIの活用により攻撃コストが削減され、攻撃スピードが加速し、高度な専門知識を持たない攻撃者でも巧妙なキャンペーンを展開可能になっているという。
さらにAI駆動型マルウェアでは、固定ロジックではなくAIの出力に基づいて次の行動を判断し、環境から収集した情報によって活動を動的に調整することが可能になる。標的システムの価値判断、行動の優先順位付け、攻撃の激しさ、潜伏期間の長さなどを調整できるようになり、マルウェアは適応力のあるオペレータのように振る舞う可能性がある。
この結果、攻撃の予測やモデル化が困難になり、防御側が従来用いてきた反復的な検知パターンが確認されにくくなると指摘している。
AIアシスタントをC2プロキシとして悪用
正規クラウドサービス内に悪意ある通信を隠す手法自体は従来から存在するが、ウェブインターフェース経由で利用されるAIアシスタントにより前提が変わりつつあるという。
CPRは、ウェブブラウジングやURL取得機能を備えたAIプラットフォームが、マルウェアと攻撃者インフラの間を仲介する仕組みとして悪用され得ることを実証した。マルウェアはAIアシスタントに特定URLの取得や要約を指示することで、C2サーバーへ直接接続することなくデータ送信やコマンド受信を行えるとしている。
この手法は、GrokおよびMicrosoft Copilotを対象に、研究目的の管理された環境下で実証された。いずれもインターフェース経由でウェブアクセスが可能なAIサービスである。
特に重要な点として、この通信はAPIキーや認証済みユーザーアカウントを必要とせず成立し得る点が挙げられている。これにより、アカウント停止やキー無効化といった一般的な遮断対策の有効性に限界が生じる可能性がある。
AIが意思決定を担う攻撃モデルへ
同社は、この手法の本質的な重要性は、AIサービスが通信基盤として機能することで、単なるコマンドだけでなく、指示やプロンプト、意思決定そのものを伝達できる点にあると指摘する。
従来のように複雑な意思決定ツリーをコード内に埋め込む代わりに、マルウェアは感染端末のユーザーコンテキストや環境指標、ソフトウェア構成などの概要情報を送信し、次の行動に関するガイダンスを受け取ることが可能になる。
これにより、コード変更なしで攻撃キャンペーンを被害者ごとに動的適応させることが可能になると分析している。
AI駆動型攻撃がもたらす影響
現在のAI駆動型マルウェアは依然として実験段階にあるが、標的選定や優先順位付けの領域ではAIが中核を担う可能性が高いとCPRはみている。
将来的には、AIを用いて高価値ユーザーや組織の判別、機密データの優先選定、サンドボックス回避、検知につながる過剰挙動の抑制などが可能になると指摘する。
これは、ファイル暗号化速度やアクセス量などの量的指標に依存する既存の防御モデルにとって大きな課題になる可能性があるとしている。
防御側に求められる対応
CPRは、この問題は従来型のソフトウェア脆弱性ではなく、企業環境に統合された信頼あるAIサービスの悪用に根ざす新たな課題であると位置付ける。
対策として、AIプロバイダーにはウェブ取得機能の厳格管理、匿名利用に関するガードレール整備、企業向け可視性の向上が求められると指摘した。
一方、防御側にはAI関連ドメインを重要な外部通信経路として位置付け、自動化された利用パターンや異常利用の監視、AIトラフィックを脅威ハンティングやインシデント対応に組み込むことの必要性を示している。
また、Microsoftは責任ある情報開示に基づき本調査結果を確認し、Copilotのウェブ取得フローにおける当該挙動に対処する変更を実施した。 CPRは、企業のAI導入が加速する中、信頼あるAIプラットフォームがネットワーク上の死角とならないよう、セキュリティ対策も並行して進化させていく必要があるとしている。
