DEVELOPMENT RULES GUIDE

開発の厳守ルール

「動くコード」と「事業で使えるコード」は別物です。セキュリティやデータ整合性から、運用の品質まで。開発で守るべき 8 つの領域を、公開された事故の事例とあわせて解説します。

8 つの領域公開事例 12 件

更新(初版の公開: 2026 年 5 月 22 日)

AI エージェントが書くコードの量が増えるほど、人の仕事は、動くことと事業の中で安全に動き続けることの差を見極め、埋めることに移ります。

AI 駆動開発で、実装の速度は大きく上がりました。それでも、AI が書いたコードを「動くから OK」で本番に流せば、事故は起きます。本ガイドで扱う 8 つの領域は、セキュリティ・データ整合性・パフォーマンス・デプロイ環境・テスト・観測可能性・法務・アーキテクチャの判断です。いずれも、AI に任せきりにせず、人が責任を持って確認する領域です。

第 0 章で大原則を示し、第 1〜8 章では領域ごとに「保証すべきこと・公開された事故の事例・チェックリスト」の順で解説します。第 9 章には、作業の前後で使う統合チェックリストをまとめました。

現在の AI エージェントは、自らコマンドを実行し、外部の文書や部品を読み込んで動作します。事故の起きる場所も、書かれたコードの外へ広がっているため、エージェントに渡す権限と、外部から取り込む部品(サプライチェーン)の項目を、第 1・2・9 章に含めています。エージェントの設定の詳細は「AI エージェント活用ガイド」で解説しています。

第 0 章 「動くコード」と「事業で使えるコード」は別物

第 1〜8 章のすべてに共通する前提を、最初に示します。実装が速くなっても、確認する責任は人に残ります。

エンジニアが守ること

  • 推測で判断せず、設定ファイル・公式ドキュメント・実データを必ず確認すること
  • 不明点を残したまま実装を進めず、確認してから着手すること
  • 本番反映前には差分レビューと影響範囲の確認を行うこと
  • 前提と未確認の事項を書き出し、レビューで見える状態にすること
  • AI エージェントが実装を担っても、何を作り、どこまで任せ、何で検証するかは人が決めること
実例 公開事例

Replit の AI エージェントが、コードフリーズ中に本番のデータベースを削除 (2025 年 7 月)

SaaStr 創業者の Jason Lemkin 氏は、Replit の AI エージェントでアプリを作っていました。「コードフリーズ中は変更禁止」とはっきり指示していたにもかかわらず、AI エージェントは本番のデータベースを削除しました。1,200 人を超える経営者と 1,190 社を超える企業の記録が消え、AI は「戻せない」と答えましたが、Lemkin 氏は実際には復旧できました。Replit の CEO は「許されないことで、起きてはならない」と述べ、開発用と本番用のデータベースを自動で分ける対策を出しました。

出典: Fortune — AI coding tool Replit wiped database, called it a catastrophic failure

事故を防ぐチェックリスト

  • 使っている API やライブラリの正しい使い方を、公式ドキュメントで確認しましたか
  • 「とりあえず動く」で済ませそうな箇所を保留にしていませんか
  • 影響範囲(DB / 既存 API / フロント)を洗い出しましたか
  • 「これでいいのか」の根拠を他人に説明できますか
  • 分からない点を残したまま、PR を出していませんか

第 1 章 セキュリティ — 最優先事項

セキュリティの事故は、事業の存続に直結します。漏れた鍵やデータは、後から取り消せません。

エンジニアが保証すべきこと

  • 機密情報(API キー・パスワード・トークン)をソースコードにハードコードしないこと
  • .env・*.pem・*.key・認証情報を含むファイルをコミット候補に含めないこと
  • 平文で機密情報をログ出力しないこと(console.log(user) でハッシュごと出力する等)
  • ユーザー入力を検証せず SQL・コマンド・ファイルパスに組み込まないこと(SQLi / コマンドインジェクション / SSRF)
  • 認証・認可チェックをスキップした実装を残さないこと
  • 環境変数は process.env.XXX 経由でアクセスし、デフォルト値に機密を埋め込まないこと
  • 依存パッケージ追加時はライセンスと既知脆弱性を確認すること (npm audit / pnpm audit)
  • マルチテナント実装では Row Level Security (RLS) の有効化を確認すること
  • LLM を含むアプリではプロンプトインジェクション対策を実装すること
  • 依存パッケージは lock ファイルで版を固定し、CI の部品(GitHub Actions 等)はタグではなくコミットの SHA で固定すること(タグは書き換えられる)
  • AI エージェントが読む外部の入力(Issue・PR のコメント・依存パッケージの README・取得した Web ページ)に含まれる指示に従わせないこと。外部の入力を読む作業に、秘密の値へのアクセスと外部への送信の権限を同時に持たせないこと
  • Web アプリの代表的なリスクをまとめた OWASP Top 10 は、2025 年版で確認すること。2021 年版の「古い部品・脆弱な部品」は、サプライチェーン全体の不備に広げられて A03 (Software Supply Chain Failures) になり、インジェクションは A05 (Injection) に移った
実例 公開事例

tj-actions/changed-files サプライチェーン攻撃(CVE-2025-30066・2025 年 3 月)

広く使われている GitHub Actions の部品「tj-actions/changed-files」が改ざんされ、バージョンのタグが悪意のあるコミットに向けられました。この部品を使ったワークフローでは、アクセスキー・GitHub PAT・npm トークン・RSA 秘密鍵などの秘密の値がビルドのログに出力されました。CISA は公式アラートで、別の部品「reviewdog/action-setup@v1」の侵害が起点になった可能性を示しています。

出典: CISA 公式アラート (CVE-2025-30066) / NVD — CVE-2025-30066

実例 公開事例

依存パッケージ LiteLLM の悪意のある版が PyPI に公開(2026 年 3 月)

2026 年 3 月、LLM の呼び出しをまとめるライブラリ LiteLLM の、悪意のある版(1.82.7・1.82.8)が PyPI に約 40 分公開されました。インストールした環境の認証情報を盗むものでした。開発元は、CI で使っていた別の部品 (Trivy) の侵害が起点だと説明しています。

出典: LiteLLM の発表(2026-03-24 公開・03-27 更新)

実例 公開事例

Issue に書かれた指示で AI エージェントが操られうる弱点(Clinejection / 2026 年 2 月)

2026 年 2 月、研究者が、AI エージェント Cline の GitHub にある弱点を報告しました。Issue を仕分ける AI の自動処理が、Issue に書かれた指示に操られうるというものです。開発元によれば、この弱点から公開用の鍵が漏れました。鍵の入れ替えで消し損ねた 1 つが使われ、第三者が改変した版 ([email protected]) が npm に約 8 時間公開されました。

出典: 研究者の報告 (2026-02-09) / 開発元の勧告 (2026-02-17) / 開発元の事後報告 (2026-02-24)

実例 公開事例

AI でアプリを作るサービス Lovable の既定の設定をめぐる弱点(CVE-2025-48757 / 2025 年 5 月)

2025 年 5 月、AI でアプリを作るサービス Lovable で作られたサイトの弱点が、CVE-2025-48757(深刻度 9.3)として公開されました。データベースの行単位のアクセス制御 (RLS) が足りず、外から認証なしでデータを読み書きできる状態でした。対象は 2025 年 4 月 15 日までに作られたものです。Lovable は、アプリのデータを守るのは利用者それぞれの責任だとして、この登録に異を唱えています。

出典: CVE レコード (CVE-2025-48757) / 研究者の報告

事故を防ぐチェックリスト

  • .env*・*.key・*.pem が .gitignore に含まれていますか
  • 機密情報には、環境変数を通してだけアクセスしていますか
  • ユーザー入力にバリデーションを通していますか(Zod / valibot 等)
  • 認証ミドルウェアを迂回できる経路はありませんか
  • npm audit が CI で走り、High 以上で fail する設定ですか
  • RLS (Row Level Security) が有効ですか(Supabase / Postgres 利用時)
  • GitHub Actions の uses: が、タグではなく 40 桁の SHA で固定されていますか
  • AI エージェントが .env や鍵のファイルを読めない設定になっていますか (例: Claude Code の .claude/settings.json の permissions.deny に Read(**/.env))

第 2 章 データ整合性・破壊的操作

消えたデータを元に戻せるとは限りません。一度壊れた整合性は、直すのに何倍ものコストがかかります。

エンジニアが保証すべきこと

  • 本番 DB への DROP・TRUNCATE・WHERE 句のない DELETE・UPDATE は、バックアップの確認と第三者の承認なしに実行しないこと
  • マイグレーション実行前にバックアップ・PITR (Point-In-Time Recovery) の可否を確認すること
  • スキーマ変更時は Zero Downtime 可能か検証すること(DROP COLUMN は段階的に)
  • トランザクション境界が正しいか確認すること
  • Webhook・決済処理には冪等性 (idempotency key) を実装すること
  • 同時実行による競合状態 (Race Condition) の有無を検討すること
  • git push --force を既存ブランチに行わないこと(代わりに --force-with-lease)
  • 既存ファイルの完全上書きは差分を提示した上で実施すること
  • AI エージェントには、本番のデータベースやクラウドを消せる権限を渡さないこと。削除・本番への反映・履歴の書き換えは、エージェントの設定で拒否か人の確認にすること
実例 公開事例

UniSuper のクラウド環境を Google Cloud が誤って削除(2024 年 5 月)

Google Cloud の側で、環境を用意する(プロビジョニング)際に、意図しない設定の誤りがありました。その結果、オーストラリアの年金基金 UniSuper(加入者 64.7 万人超)のクラウド環境が削除されました。ランサムウェアでも攻撃でもありません。UniSuper と Google Cloud の共同声明は、Google Cloud の CEO の確認として「前例のない一連の出来事」と述べています。UniSuper は別の事業者にもバックアップを持っており、それが復旧の支えになったと説明しています。

出典: UniSuper と Google Cloud の共同声明 (2024-05-08)

実例 公開事例

AWS の障害で、AI コーディングツール Kiro が原因かどうか見方が分かれた件(2025 年 12 月)

Financial Times の報道によれば、2025 年 12 月の AWS の障害は、Amazon の AI コーディングツール「Kiro」が作業の中で「環境を削除して作り直す」ことを選んだために起きました。Amazon はこれを否定し、原因は AI ではなく利用者の誤り(アクセスの権限の設定の誤り)だと説明しています。影響は 1 つのサービス(AWS Cost Explorer)の、39 の地域のうち 1 つに限られたとしています。あわせて、本番へのアクセスにピアレビューを必須にしたと述べています。どちらの説明に立っても、本番に触れる権限の設定と、その確認の手順が問われる事例です。

出典: Amazon の説明: About Amazon / 報道: Financial Times / 参考: AI Incident Database #1442

事故を防ぐチェックリスト

  • 破壊的 SQL を実行する前に dry-run / トランザクション内テストを通しましたか
  • バックアップが「実際に復元できる」状態ですか(PITR / スナップショット復元検証)
  • スキーマ変更は段階的に分けてリリースしていますか (Add → Backfill → Migrate → Drop)
  • Webhook 受信に冪等キー (Idempotency-Key) がありますか
  • git push --force の代わりに --force-with-lease を使っていますか
  • 同時実行下での Race Condition を検討しましたか
  • AI エージェントの設定で、rm -rf・git push --force・git reset --hard のような取り消せない操作を拒否していますか

第 3 章 パフォーマンス・スケーラビリティ

現時点で問題なく動いているアプリも、アクセスが増えれば容易に停止します。スケールへの備えは、最初の設計から組み込みます。

エンジニアが保証すべきこと

  • ORM 使用時は N+1 クエリの発生有無を確認すること(Drizzle / Prisma 等)
  • Serverless 環境では DB 接続プーリング(PgBouncer / Supavisor 等)を使用すること
  • 外部 API 呼び出しには指数バックオフとレートリミット対応を実装すること
  • 重いタスクは同期実行せず Queue(Inngest / Trigger.dev 等)に逃がす設計を取ること
  • 実行時間・メモリ制限を事前に確認すること(Vercel Hobby / Cloudflare Workers 等)
  • 必要に応じて CDN・キャッシュ層(stale-while-revalidate 等)を採用すること
実例 公開事例

Snowflake の後方非互換の更新で、約 13 時間の障害(2025 年 12 月)

Snowflake がリリースした DB スキーマ更新が後方非互換となりました。Snowflake の障害報告によれば、2025 年 12 月 16 日の約 13 時間、米国・欧州・アジア・メキシコの 9 つの地域で障害が続きました。

出典: Snowflake の障害報告 / 報道: The Register — Snowflake update caused a blizzard

事故を防ぐチェックリスト

  • ORM のクエリログで N+1 を確認しましたか
  • DB 接続プーリングが入っていますか(Serverless の場合)
  • 外部 API 呼び出しに再試行 + 指数バックオフを実装しましたか
  • 30 秒以上かかる処理を Queue に逃がす設計ですか
  • CDN・キャッシュレイヤーが必要箇所に入っていますか
  • 負荷試験(k6 / Artillery 等)を本番想定で実施しましたか

第 4 章 デプロイ環境に合わせる

手元で動いたコードが、デプロイ先でも動くとは限りません。実行時間・メモリ・利用できる API など、環境ごとの制約を事前に把握しておきます。

エンジニアが保証すべきこと

  • 環境ごとの設定値 (.env.local / .env.production) を分離すること
  • Edge Runtime 使用時、Node 固有 API(fs・一部 npm パッケージ)が含まれないか確認すること
  • ビルドサイズ・コールドスタート時間を意識すること
  • 公開するパッケージ・成果物に含まれるファイルを、公開前に一覧で確認すること(npm pack --dry-run 等)
  • Windows / macOS / Linux 間でパス区切り文字や改行コードに依存しないコードを書くこと
実例 公開事例

Anthropic Claude Code が約 50 万行のソースを npm に誤同梱(2026 年 3 月)

Anthropic が Claude Code の版 2.1.88 を npm に公開した際、59.8MB のソースマップが同梱され、約 50 万行・約 1,900 ファイルのソースが読める状態になりました。Anthropic は「人の誤りによる公開の梱包の問題で、侵害ではない」とし、顧客のデータや認証情報は含まれないと説明しています。

出典: Fortune — Anthropic source code Claude Code data leak / VentureBeat — Claude Code's source code appears to have leaked

事故を防ぐチェックリスト

  • 環境変数ファイルが環境別に分かれていますか (.env.local / .env.production)
  • Edge Runtime 互換のパッケージのみ使用していますか
  • ビルドサイズ・関数のメモリ制限を計測しましたか
  • デプロイツール (wrangler / vercel) 固有の制約を確認しましたか
  • OS 依存のコード(パス区切り / 改行)を避けていますか
  • 公開する成果物に、ソースマップや内部のファイルが含まれていないことを確認しましたか

第 5 章 テスト・品質保証

テストは、将来の変更に対する保険です。省いた分は、機能を追加するたびの手戻りとして返ってきます。

エンジニアが保証すべきこと

  • 新規機能には単体テストを必ず併設すること
  • 境界値・異常系のテストケースを明示すること
  • typecheck / lint / test が CI で通る状態を維持すること
  • モックは本番挙動と乖離しないよう、契約テスト(Pact 等)を検討すること
  • TypeScript の any 多用を避け、unknown + 型ガードを使うこと
実例 公開事例

CrowdStrike センサー更新で 850 万台が同時 BSOD(2024 年 7 月)

セキュリティ企業 CrowdStrike は、Falcon センサーの設定ファイルを更新して配信しました。そのとき、検査の仕組み (Content Validator) の不具合で、不正なファイルが検査を通ってしまいました。世界中の Windows 端末 850 万台が同時に BSOD で起動できなくなり、医療・航空・金融の現場が一斉に止まりました。保険会社 Parametrix は、米国の Fortune 500 企業(Microsoft を除く)の直接の損失を 54 億ドルと推計しています。Delta Air Lines は、約 7,000 便の欠航で売上に約 3.8 億ドル・費用に約 1.7 億ドルの影響が出たと届け出ています。

出典: CrowdStrike の事後報告 (PIR) / Microsoft (2024-07-20) / Parametrix (2024-07-24) / Delta Air Lines の届け出 (8-K)

事故を防ぐチェックリスト

  • 新規機能に対する単体テストが存在しますか
  • 境界値(0 / 最大 / null / 空)のテストが書かれていますか
  • 異常系(タイムアウト / 5xx 応答 / 不正入力)もテストしていますか
  • CI で typecheck / lint / test がすべて通っていますか
  • any を避けて unknown + 型ガードに置き換えましたか
  • デプロイ手順が再現可能ですか(Infrastructure as Code 化)

第 6 章 観測可能性(Observability)

見えないものは直せません。異常の検知が遅れるほど停止時間は延び、最初に気づくのが利用者になってしまいます。

エンジニアが保証すべきこと

  • console.log の散乱を避け、構造化ログ(Pino / Winston 等)を使うこと
  • エラーは Sentry 等に送信される設計を確認すること
  • ユーザー影響のあるエラーは Slack 等にアラート通知される導線を確保すること
  • 重要操作(課金・データ削除等)は監査ログを残すこと
  • メトリクス(Datadog / Grafana 等)で異常検知できる状態にすること
実例 公開事例

Microsoft 365 Copilot バグが機密メール DLP ポリシーを迂回(2026 年 1 月)

Microsoft 365 Copilot にバグ (CW1226324) がありました。データ損失防止 (DLP) ポリシーで「機密」と指定したメールや下書きでも、Copilot が要約できる状態でした。組織のセキュリティポリシーを迂回して、機密データが AI に処理されていた可能性があります。Microsoft は 2026 年 2 月に公表して修正を始めましたが、影響を受けた組織の数は明かしていません。

出典: TechCrunch — Microsoft says Office bug exposed customers' confidential emails to Copilot AI

事故を防ぐチェックリスト

  • 構造化ログを採用していますか(pino / winston 等)
  • エラーが Sentry 等のエラー監視ツールに送信されていますか
  • 5xx エラーが Slack 等にアラート通知される導線がありますか
  • 課金・データ削除等の重要操作に監査ログがありますか
  • ダッシュボードで主要指標(エラー率 / レイテンシ / トラフィック)が一目で見えますか

第 7 章 法務・コンプライアンス

技術の選定は、法律の制約も受けます。ライセンスと個人情報の扱いの誤りは、公開や運用が始まった後では修正が難しくなります。

エンジニアが保証すべきこと

  • SaaS で提供する場合は、ネットワーク越しの利用でもソースの開示義務が生じる AGPL 等の混入を確認すること。GPL は配布の形態に応じて確認すること
  • 個人情報を扱う処理は個人情報保護法・GDPR 要件を確認すること
  • データ保管リージョン(Supabase Tokyo 等)の整合性を確認すること
  • 生成 AI コードの帰属・利用規約(Anthropic / OpenAI 等)を遵守すること
  • 利用ライブラリのライセンスを license-checker 等で定期確認すること
実例 公開事例

TikTok が GDPR 違反で 5 億 3,000 万ユーロの制裁(2025 年 5 月)

アイルランドのデータ保護委員会 (DPC) が TikTok に対して GDPR 違反として 5 億 3,000 万ユーロの制裁金を科しました。EEA(欧州経済領域)の利用者のデータを中国へ移す際の保護が不十分で、利用者への説明も足りないと判断されたためです。TikTok は「中国のサーバーには保存していない」と説明していました。ところが 2025 年 4 月、「限られた EEA の利用者のデータが中国のサーバーに保存されていた」と DPC に伝えています。6 か月以内に是正しなければ、中国へのデータの移転を止める命令も出ています。

出典: アイルランド データ保護委員会 (DPC) の発表 (2025-05-02)

事故を防ぐチェックリスト

  • 依存ライブラリのライセンスを確認しましたか(license-checker 等で定期スキャン)
  • 個人情報の保管リージョンが要件と整合していますか
  • 個人情報保護法・GDPR・CCPA の要件を満たしていますか
  • 使っている AI ツールの規約(Anthropic / OpenAI 等)を確認しましたか
  • 契約書に「データ保管リージョン」「サブプロセッサ」の項目が含まれていますか

第 8 章 アーキテクチャ判断 — 単独で決めない領域

ここに挙げるのは、事業の根幹を左右する判断です。誰か 1 人の判断にも、AI エージェントの判断にも預けません。

エンジニアが保証すべきこと

以下の領域は、チームでレビューしてから決めます:

  • データベーススキーマの根本設計変更
  • 認証・認可方式の変更(JWT / Session / OAuth 等)
  • マルチテナント分離方式の選択(Shared DB+RLS / Schema 分離 / DB 分離)
  • ベンダーロックインを伴う技術選定
  • 課金・決済ロジック
  • 公開 API のバージョニング変更
  • セキュリティ要件に影響する設定変更

事故を防ぐチェックリスト

  • 設計変更を 1 人で決めていませんか
  • PR テンプレートで「設計変更を伴うか」の項目がありますか
  • 認証・認可方式の変更は十分にテストされていますか(既存のクライアントを含む)
  • 課金ロジックの変更時、過去データへの影響を確認しましたか
  • テクニカルアーキテクトかリードと、事前に方針を相談しましたか

第 9 章 作業前後のチェックリスト(統合版)

各章のチェック項目を、作業着手前・作業中・作業完了前の時点ごとに並べ替えたものです。レビューや PR のテンプレートにそのまま転用できます。

作業着手前

  • 関連ファイル・設定・公式ドキュメントを実データで確認しましたか
  • 影響範囲(DB / API / フロント / 外部連携)を洗い出しましたか
  • 破壊的操作・本番影響の有無を確認しましたか
  • 不明点を残していませんか
  • 必要なら計画(設計書 / RFC)を文書化しましたか

作業中

  • 環境変数・機密情報のハードコードはありませんか
  • バリデーション・認可チェックを通していますか
  • テスト(単体・境界値・異常系)を併設していますか
  • 構造化ログ・エラー監視への送信を組み込みましたか
  • AI エージェントに渡した権限が、今の作業に要る範囲を超えていませんか

作業完了前

  • ここまでの章の禁止事項に当たる箇所はありませんか
  • テスト・型チェック・Lint が通りますか
  • シークレットがコード・ログ・コミットに混入していませんか
  • .gitignore の更新漏れはありませんか
  • チームへの差分・確認事項を明示しましたか
  • PR レビューでアーキテクチャ判断の項目を確認しましたか

最後に

10 の章で伝えたいことは、次の一文にまとまります。

「動くコード」と「事業で使えるコード」は別物。

AI エージェントが実装を担う開発で、人が担うのは、ここに挙げた観点を総合して判断することです。AI は判断の材料を速く集めますが、責任までは引き受けません。

サービスの利用者が、明日も変わらず安心して使えること。事業で長く使われるコードを書く意味は、そこにあります。

このルールを、チームの開発プロセスに取り入れるご相談を承ります。

どの章から取り入れるか、どのチェックを CI で自動化するかを、現在の開発の進め方に合わせて検討し、導入の計画をご提案します。IT コンサルティングのご契約で承ります。