「ループ」から「グラフ」へ ― AIエージェントの自己改善が壊れる理由と、その直し方
最近AIエージェント界隈で「まだループの話してるの?もうグラフの話に移った?」という一言が話題になったらしい。この一言の意味を自分なりに整理してみる。
まず「ループ」とは何か。サーモスタットが一番わかりやすい。目標温度を決める→今の温度を測る→差を計算する→暖める、を繰り返す。これだけ。チームの週次KPI改善も、機械学習のトレーニングループも、構造は同じ。「測って、直して、また測る」の4拍子。
このループ、シンプルで強力だけど、うまくいくほど壊れやすいという厄介な性質がある。壊れ方は主に4パターン。
1. 数字が目的とズレる(グッドハートの法則): サポートチームが「チケット解決率」を指標にして頑張った結果、解決率は上がったのに解約率が倍になった、という話がある。ループは指標しか見ていないので、指標を上げる一番簡単な方法(会話を早めに打ち切る)を見つけてしまう。指標が本来意味していたものから静かにズレていく。
2. 目標そのものを疑えない: サーモスタットは「設定温度が正しいか」を考えない。ループは目標に向かって忠実に働くだけで、その目標が間違っていても気づけない。
3. ループ同士がケンカする: 応答速度を上げるループと、丁寧さを上げるループは、互いの足を引っ張り合う。それぞれは正常に動いているのに、全体としては噛み合わない。
4. 測定自体が腐る: センサーはズレる、定義はいつの間にか変わる。ダッシュボードは緑のままなのに、その数字はもう現実を映していない。
ではどうするか。答えは「もっと良いループ」ではなく、「ループを監視するループ」を組み合わせること、つまりグラフ(ネットワーク)にすることらしい。
- 指標は必ずペアで持つ(解決率だけでなく解約率も見る)
- 遅いループが速いループの目標を管理する(現場が暴走しないよう、上位の仕組みが目標自体を見直す)
- ループ同士がぶつかったら、それを裁定する上位のループを置く
- 「この数字はまだ現実と繋がっているか」を定期的に監査するループを持つ
小学5年生でもわかる、実際の使われ方の例
例えば、Netflixのような動画配信サービスが「おすすめ機能」を新しくしたいとき、いきなり全員に新しい仕組みを見せたりはしない。まずごく一部の人にだけこっそり新しい仕組みを見せて、今までの仕組み(チャンピオン)と新しい仕組み(チャレンジャー)をこっそり試合させる。新しい方が本当に成績が良かったときだけ、本番に交代させる。
さらに別の係が「最近みんなの好みが急に変わってないか」を見張っていて、変な兆候があれば新しい仕組みをすぐ止めて元に戻せるようにしてある。つまり「良くなったかを測る係」だけに任せず、何人もの係(ループ)がお互いをチェックし合う仕組みになっている。これが実際に使われている「グラフ・エンジニアリング」の一例。
ここまでだと「じゃあ複雑なグラフを組めば安心」と思いたくなるけど、記事が一番強調していたのはここから。全部のループがお互いを参照し合っているだけだと、循環しているだけで誰も現実を見ていない状態になりうる。監査ループが見ているデータも、結局は同じシステムが吐き出した数字だったりする。
だから必要なのは「アンカー」だという。議論の余地がない測定(実際に振り込まれた売上、実際に実行されたテスト、実際に居続けた顧客)と、絶対にいじらせないルール、そして何より「そもそも何を良しとするか」という判断は機械の中からは出てこないという自覚。それは人間が、現実の失敗と向き合う中で持ち込むしかない。
読んでいて、ループを組む技術からグラフを組む技術への移行というよりも、本質は「ループか、グラフか」ではなく、「そのシステムがちゃんと現実に接地しているか」という軸なんだな、というのが一番刺さった。
※この記事は、Carlos E. Perezさんの「From Loop Engineering to Graph Engineering?」を読んで、自分なりに整理し直したものです。
