コメディアンでYouTuberのAdam Conover氏がPodcast「Decoder」で語った指摘があります。YouTubeのレコメンドアルゴリズム（視聴履歴などから次の動画を自動選定する仕組み）は、テレビ局よりも厄介なゲートキーパー（門番、コンテンツの流通を制御する存在）だという主張です。テレビ局の編成担当者とは交渉できても、アルゴリズムとは交渉できないからです。
この構造は、AIコーディングエージェント（コード生成・修正・テスト実行までを自律的に行うAIツール）を開発フローに組み込んだ現場でも起きています。CIパイプラインにAIエージェントを組み込んだ結果、なぜその変更が採用され、なぜ別の変更が却下されたのか、開発者が説明を求めても答えが返ってこない状況が生まれることがあります。
人間のレビュアーなら「なぜこの実装にしたのか」と聞き返せます。ところがAIエージェントの出力プロセスは、プロンプト（AIへの指示文）とモデルの内部処理の組み合わせで決まり、後から同じ結果を再現できないことも珍しくありません。これはAdam Conover氏の言う「交渉できない相手」と同じ構造です。
なぜこの落とし穴に陥るのか
原因は大きく3段階に分けられます。
1段目は、プロンプトの非決定性です。同じ指示文を入力しても、モデルの温度パラメータ（出力のランダム性を決める設定値）やバージョンの違いで結果が変わります。GitHub CopilotやClaude Codeなどのツールは、内部で使うモデルのバージョンが更新されると、以前と同じ指示でも異なるコードを出力することがあります。
2段目は、MCP（Model Context Protocol、AIがツールやデータソースに接続するための標準規格）経由の連携で、外部ツールの挙動がAIの判断に混ざり込むことです。たとえばファイル検索MCPサーバーの応答内容が変われば、AIエージェントの提案内容も変わります。エージェントの「判断」の一部が、実は外部サービスの状態に依存しているケースです。
3段目は、エージェントのタスク自動化パイプライン全体がブラックボックス化することです。プロンプト、コンテキスト（AIに渡す背景情報）、ツール呼び出しの順序が絡み合い、最終的な出力だけを見ても、途中の意思決定プロセスを追えなくなります。
自分のプロジェクトが該当するか確認する
以下の観点で、自分のプロジェクトがこの落とし穴に近づいていないか確認できます。
- CIログにAIエージェントの「思考過程」や中間出力（Claude Codeの
--verboseオプションやCopilot Workspaceのログなど）が記録されているか - プロンプトやシステム指示（system prompt）がリポジトリ内でバージョン管理されているか、それとも設定画面に埋め込まれたままか
- 使用しているAIツールのモデルバージョンが固定されているか、自動更新される仕様か
- MCPサーバーを使っている場合、そのサーバーが返すデータのバージョンや更新頻度を把握できているか
確認コマンドの例として、Claude Codeを使っている場合は設定ファイル.claude/settings.jsonを開き、モデル名やMCPサーバーの接続先を確認できます。
cat .claude/settings.jsonGitHub Copilotの場合はVS Codeの拡張機能設定から、使用モデルのバージョン表示や実験的機能の有効化状況を確認できます。設定画面で「GitHub Copilot」の項目を開き、モデル選択欄に表示される名称を控えておくと、後日の挙動変化を追いやすくなります。
対策の手順
交渉できないゲートキーパーを、少しでも交渉可能な相手に近づけるための手順です。
1. プロンプトをコード資産として管理する。プロンプトファイルをprompts/ディレクトリなどに置き、Gitでバージョン管理します。挙動が変わったときに、プロンプトの変更とモデルの変更のどちらが原因か切り分けられます。
2. モデルバージョンを明示的に固定する。APIを直接呼ぶ構成であれば、モデル名をclaude-sonnet-4-5-20250929のように日付付きで指定し、自動的に最新版へ切り替わらない設定にします。ツール側の設定でバージョン固定オプションがあるか、ドキュメントの「Model versions」や「利用可能なモデル」の項目を確認してください。
3. MCPサーバーの応答をログに残す。MCP経由で外部データを取得している場合、リクエストとレスポンスの記録を残す設定を有効にします。多くのMCPクライアント実装にはデバッグログ出力のオプションがあるため、公式リポジトリのREADMEで--debugやLOG_LEVELに相当する設定を確認します。
4. AIの提案に対する人間の最終承認ステップを外さない。CIパイプライン上でAIエージェントが自動でPull Requestをマージする設定になっていないか、GitHub Actionsのワークフローファイル（.github/workflows/*.yml）を見直します。マージ条件に人間のApproveが必須かどうかを、ブランチ保護ルールの設定画面で確認できます。
5. 説明できない挙動が出たら再現条件を記録する習慣をつける。プロンプト、モデルバージョン、MCP接続先、入力データのスナップショットをセットで残すことで、次に同じ問題が起きたときの調査時間を減らせます。
まとめ
YouTubeのアルゴリズムが「交渉できないゲートキーパー」だという指摘は、AIコーディングエージェントを開発フローに組み込む際の落とし穴とよく似た構造を持っています。
出力の非決定性、MCP経由の外部依存、パイプライン全体のブラックボックス化という3段階の原因を意識するだけでも、トラブル発生時の切り分けが早くなります。
まずは.claude/settings.jsonやVS CodeのCopilot設定を開き、使用モデルのバージョンが固定されているかを確認してみてください。プロンプトをGit管理下に置くこと、CIのマージ条件に人間の承認を残すことも、今日から着手できる対策です。