Googleは、TypeScriptおよびGo向けのGenkit Agents APIのプレビュー版をリリースしました。「detached turns」と「human-in-the-loop」のガードレールを追加することで、プロダクショングレードのAIエージェントの構築と制御をより容易にします。

新しいAPIが重要な理由

開発者はAIエージェントをデプロイする際、長らく2つの問題に直面してきました。それは、パイプライン全体を停止させてしまう長時間実行タスクと、安全で信頼できるアクションを保証することの難しさです。「detached turns」により、エージェントは周囲のワークフローをロックすることなく、長時間の操作を継続して実行できます。一方、「human-in-the-loop」オプションは、エージェントの出力が適用される前に手動でのレビューを強制します。これらを組み合わせることで、ダウンタイムを削減し、コストのかかるミスを防ぐことができます。

これに至る経緯

今年初め、オープンソースのフレームワークやクラウドサービスが対話型AI向けのプラグアンドプレイ・コンポーネントを提供し始めましたが、その多くは開発者にカスタムのオーケストレーションコードの記述を強いるものでした。GoogleのGenkitは、リクエスト処理、状態管理、モデル選択といったボイラープレートを排除する高レベルなSDKを提供することで、そのギャップを埋めます。

各機能の具体的な役割

  • Detached turns: エージェントが外部APIからのデータ取得、多段階の推論チェーンの実行、またはユーザー入力の待機を行う必要がある場合、その作業をバックグラウンドプロセスに引き継ぎます。メインのワークフローはプレースホルダーを受け取って処理を続行するため、後続のタスクをブロックするような完全な停止を回避できます。
  • Human-in-the-loop: ローンの承認やデータベースの更新など、エージェントの決定が確定される前に、人間のレビュアーに対してUIプロンプトが表示されます。レビュアーは提案を承認、修正、または拒否することができ、自動化を放棄することなく、組織にセーフティネットを提供します。

台頭する補完的なツール

Genkitと並行して、オープンソースコミュニティは、AIパイプラインに付きまとう2つの悩みどころである「コスト」と「デバッグ」に対処するユーティリティを展開しています。

  • ORA: 単一のバイナリとしてパッケージ化されたGoベースのタスクオーケストレーターです。大きなジョブを小さなサブタスクに分割し、それぞれを処理可能な最も安価なモデルに自動的にルーティングすることで、チームがクラウド支出を抑制できるよう支援します。
  • Python AI error explainer: スタックトレースや難解なログを読み取り、平易な言葉による要約、考えられる原因、および修正手順を返すライブラリです。生のエラーデータを実行可能なインサイトに変換することで、開発者のフィードバックループを加速させます。

勝者と懸念事項

今後の注目点

もしこのプレビューが約束通りの成果を上げれば、AIエージェントは実験的なチャットボットから、重要な局面で「行動し、一時停止し、助けを求める」ことを企業が信頼できる、頼りになるコンポーネントへと進化する可能性があります。