金色の配線パターンが広がる基板の接写
設計と運用

AIがもたらす脆弱性発見の高速化、設計で防ぐ3つの落とし穴

目次を見る

脆弱性診断やインシデント対応を担当していて、最近「攻撃の検知から侵入までのスピードが明らかに速くなった」と感じているなら、この記事が参考になるかもしれません。扱うのは、AI(人工知能、特に生成AIやコード解析AI)が攻撃側と防御側の両方の能力を底上げしたことで、従来型のセキュリティ対策の前提が崩れている問題です。

元Facebook(現Meta)の最高セキュリティ責任者で、現在はAIコーディングエージェント企業Cognitionの最高セキュリティ責任者を務めるアレックス・スタモス氏は、この状況を「暗黒時代(dark age)」と表現しています。90年代にインターネットが常時接続になり始めた頃と同じような、フロンティア的な混乱状態にあるという見立てです。

何が起きているか

起きているのは、脆弱性の発見と悪用の両方がAIによって自動化・高速化される現象です。

攻撃側は、AIにソースコードやバイナリを読ませることで、人手では時間のかかる脆弱性探索を短時間で済ませられるようになりました。国家が関与するとされる攻撃主体も含め、AIが検知と悪用を同時並行で進める構図が指摘されています。

一方で防御側も同じ技術を使えるはずですが、ここに非対称性があります。攻撃側は1つの穴を見つければ侵入できますが、防御側はすべての穴を塞がなければなりません。AIによる探索速度の向上は、この非対称性を拡大する方向に働きます。

影響範囲は特定の業界に限りません。AIでコードを書く「バイブコーディング」(会話的な指示でAIにコードを生成させる開発スタイル)が広がるほど、人間がレビューし切れない量のコードが生まれます。レビューされないコードは、脆弱性が埋め込まれたまま本番環境に出て行くリスクを抱えます。

なぜ起きるのか:原因を分解する

原因は一つではなく、いくつかの要因が重なっています。段階的に見ていきます。

1. 脆弱性探索のコストが劇的に下がった

従来、ソースコードを読んでロジックの穴を見つける作業は専門知識と時間を要する作業でした。AIがコード解析を支援することで、この作業のコストが下がり、攻撃者の母数が増えます。これまで高度な技術力がないと参入できなかった層が、AI支援によって参入可能になります。

2. 開発スピードとレビュー体制の乖離

AIを使ったコード生成は、人間だけで書くより圧倒的に速くなります。しかし、コードレビューやセキュリティ診断のプロセスは、そのスピードに追いついていないケースがあります。生成量が増えても、レビュー担当者の人数や時間は増えないためです。

3. 既存のセキュリティ産業の前提が古い

数十億ドル規模とされる既存のサイバーセキュリティ産業は、人間が手動で攻撃する、あるいは既知のシグネチャ(攻撃パターンの特徴データ)で検知するという前提で構築されてきました。AIが未知の脆弱性を動的に見つけ出す状況は、この前提の外側にあります。

自分のプロジェクトが該当するか確認する方法

抽象的な脅威論で終わらせず、まず自分たちの開発体制がどこまでAI生成コードに依存しているかを確認してください。

  • GitHub Copilot やClaude Code などのAIコーディングツールの利用状況を、リポジトリの CODEOWNERS やPull Requestのコミット者情報から棚卸しする
  • CI/CD パイプラインに静的解析(SAST)やSCA(ソフトウェア構成分析)が組み込まれているか、.github/workflows や Jenkinsfile を確認する
  • 直近3カ月のPull Requestのうち、AIが生成した差分のレビュー時間が、人間が書いた差分と比べて短くなっていないかを確認する
  • 依存ライブラリのバージョンが古いまま放置されていないか、package-lock.json や requirements.txt のハッシュ更新日を確認する

これらを確認して、「AI生成コードの量は増えているのに、レビュー工数やセキュリティゲートは増えていない」という状態であれば、該当する可能性が高いと考えられます。

対策の手順

非対称性を前提にしたうえで、現実的に取れる対策を段階別に整理します。

ステップ1: レビュー体制をAI生成コードの量に合わせて再設計する

AIが書いたコードも人間が書いたコードと同じレビュー基準を適用するのではなく、リスクに応じて差をつけます。認証・決済・権限管理などのクリティカルなモジュールは、AI生成であっても人間による詳細レビューを必須にする運用ルールを設けます。

ステップ2: SASTやSCAをCIのマージ条件に組み込む

人間のレビューだけに頼らず、機械的なチェックをマージの必須条件にします。Semgrep、CodeQL、Trivy などのツールをCIパイプラインに組み込み、検知した高深刻度の脆弱性はマージをブロックする設定にします。

# 例: CodeQLのローカル実行で既知パターンをスキャンする
codeql database create mydb --language=javascript
codeql database analyze mydb javascript-security-and-quality.qls --format=sarif-latest --output=results.sarif

ステップ3: 可用性とセキュリティのトレードオフを再設計する

AIによる攻撃の高速化は、検知してから対応するまでの時間(MTTR: Mean Time To Respond)を短縮する必要性を高めます。冗長構成やロールバック手順を事前に整備し、侵害を前提にした設計(アサムド・ブリーチ)に寄せることが現実的な選択肢になります。

ステップ4: 技術的負債の棚卸しを定期化する

古いライブラリや放置された認証ロジックは、AIによる探索の格好の標的になります。四半期ごとに依存関係の棚卸しと、認証・権限周りのコードレビューを定例化することで、負債が蓄積する前に対処できます。

まとめ

AIによるコード生成と脆弱性探索の高速化は、攻撃側に有利な非対称性を拡大させています。

対応の起点は、自分たちのリポジトリでAI生成コードの比率とレビュー体制のギャップを確認することです。CIに CodeQL や Semgrep などの静的解析を組み込み、クリティカルな領域だけでも人間レビューを強制する運用に切り替えることが、現実的な第一歩になります。

あわせて、侵害を前提にした可用性設計とMTTR短縮の取り組みを進めることで、暗黒時代と呼ばれる過渡期を乗り切る土台ができていきます。

参考

AI broke the cybersecurity world. What’s next?

AI 駆動開発のご相談は forva AI へ。

まずはお気軽にどうぞ。