AIエージェントの「自律性」と「制御」の相克：実行基盤（ハーネス）への設計シフト

2026年5月15日前後のテックトレンドは、AIが単なる「チャットボット」から、OSやブラウザ、物理ロボットを操作する「実行主体（Agentic AI）」へと完全に移行したことを示しています。それに伴い、関心事はモデルの賢さ（LLM性能）から、AIをいかに安全に、かつ再現性を持って動かすかという「ハーネスエンジニアリング（実行基盤設計）」へと劇的にシフトしています。

特に、Claude CodeやCodexといったコーディングエージェントの普及により、「AIに権限を渡した際の暴走リスク」と「長期的なコンテキスト維持（状態管理）」が実務上の最優先課題となっており、人間がレビューするのではなく「レビューする仕組み（エージェント）を設計する」というメタレイヤーの視点が強調される期間となりました。

主要トレンド

1. ハーネスエンジニアリングの体系化と座標軸の定義

AIエージェントの能力を拡張する「Agency」と、その不完全性を補完する「Control/Sensors」という2軸での設計論が台頭しています [#11]。単にツールを増やすだけでなく、実行後の検知（Sensors）に基づき動的に能力（Agency）を書き換える「自己更新型ハーネス」への期待が高まっており、AIの行動表面を制御する「足場」としての設計が重視されています [#11]。

2. 「判断はAI、実行は決定論的コード」という責務分離

AIに直接DB操作やAPI実行を任せるリスクを避けるため、LLMには「意図の解釈とCapability（能力）の選択」をさせ、実際の副作用を伴う処理は厳格な「決定論的ランタイム（Deterministic Runtime）」に委ねる設計思想が浸透しています [#29]。これにより、認可やトランザクション管理をコード側で担保し、AIの不確実性を排除するアプローチが推奨されています [#29]。

3. コンテキスト崩壊への構造的アプローチ

長期的なAI開発において、会話履歴の蓄積による「意味量の再配分（Semantic Load）」や、矛盾する指示による「衝突型ドリフト（Conflict Drift）」といった構造的な問題が定義されました [#30]。これに対し、単なるプロンプト改善ではなく、handoff.mdのような状態引き継ぎファイル [#17] や、A2CRのような作業状態（WorkBaton）の規格化 [#17, #32]、さらにはAnchorSpecのような状態保持プロトコル [#30] による解決が模索されています。

4. フィジカルAIへの展開とリアルタイム・セキュリティ

AIの知性が物理的な身体（産業用ロボット等）と融合する「フィジカルAI」の時代に突入しています [#14]。これにより、クラウド上の推論とエッジでの実行を繋ぐ超低遅延インフラや、物理的な暴走を防ぐための「物理空間のゼロトラスト」など、サイバーセキュリティとは異なる次元の安全設計が求められています [#14]。

5. AI-Firstなツール設計（AIを一次読者とする）

人間向けではなく、AIエージェントが読み書きすることを前提としたツール設計（AI-First）が登場しています。例えば、AIが解釈しやすいYAML形式のレポート出力を持つメトリクスツール dartrics [#15] や、AIが自律的に操作するための手順書 SKILL.md を同梱する設計 [#15, #35] など、AIとの共創サイクルを高速化するインターフェースへの転換が進んでいます。

主要な発表・リリース

産業・政策・投資

• 政府間連携の強化: 2026-05-01、米国CISA・NSA、英国、豪州、カナダ、ニュージーランドの5カ国政府機関が「Careful Adoption of Agentic AI Services」を共同公開。エージェントAIのセキュリティガイダンスを史上初めて同時提示した [#20]。
• エンタープライズの防御実装:
  • Dropbox: Lakera Guardを採用し、プロンプトインジェクション対策を実装。レイテンシを7倍改善し、脅威検出率98%以上を達成 [#20]。
  • ServiceNow: 「AI Control Tower」を全面展開。全製品にAIエージェントの自動検出と最小権限アクセス強制機能を搭載 [#20]。
  • AllianceBernstein: VirtueGuardを用いて、金融規制（SEC・FINRA）に準拠したリアルタイムガードレールを構築 [#20]。
• ROIの定量化: DORAが2026-04-22に「The ROI of AI-assisted Software Development」を公開。AI導入による生産性向上を金額換算する計算機を提供し、導入初期の生産性低下（J-Curve）を「変革の授業料」として予算化することを提唱 [#25]。

注目記事

• [#1] AI時代のプラットフォームエンジニアリングを考えてみた エンタープライズ導入における「3つの壁（暗黙知、二重メンテ、暴走リスク）」を、ナレッジグラフ（業務のデジタルツイン）とMCPのホワイトリスト管理で解決する具体的設計案を提示。
• [#11] ハーネスエンジニアリングを2軸の座標で見直す エージェントの「能力拡張」と「不完全性補完」を、事前(Guides)・事後(Sensors)の軸で整理。特に「実行時のフィードバックで能力境界を書き換える」領域の未成熟さを指摘し、今後の方向性を示唆。
• [#20] 9秒でDB全削除——AIエージェント セキュリティの「ランタイム層」問題 PocketOSの事例を引き合いに、モデル層（何を言うか）ではなくランタイム層（何をするか）の脆弱性を警告。間接プロンプトインジェクションやツールポイズニングへの4層防御策を詳説。
• [#26] エンジニアの役割は責任を取ることではない 「責任を取る」という曖昧な言葉を「目的の翻訳業」と再定義。エンジニアの価値は、組織の目的をAIが実行可能な形に翻訳し、その適合性を検証する設計にあると論じている。

今後の注目ポイント

1. 「AI-First CLI/SDK」の標準化: dartricsやmragに見られる、AIエージェントが一次読者となるドキュメント（SKILL.md）や出力フォーマットの普及と、その標準規格の有無。
2. 自律実行（Routines）における権限管理の再設計: permission_modeが効かないクラウド自律実行環境において、OAuthスコープやネットワークACLによる「物理的な境界線」をどう設計するか [#21]。
3. マルチエージェントによる「反証」プロセスの定型化: 単一モデルの合意ではなく、役割を分けた複数モデル（統合役・批判役・外部知見役）によるディスカッションを通じてロードマップを決定する手法の一般化 [#19]。
4. AI-nativeなWebアプリケーション層の普及: 画面（Route）中心ではなく、AIが操作可能な「Capability（能力）」を最小単位として設計するアーキテクチャへの移行 [#29]。