AIエージェントを任せる前に、できないことを決める

何が起きたか

• GitHubは10月7日、Copilot CLI、Copilot app、Agent Hostを使うVS Codeセッション向けのローカルサンドボックスを一般提供したと発表した。
• ファイル、ネットワーク、認証情報などへのアクセスを、開発者や組織のポリシーで制限する。モデルの実行とツールの隔離は別の問題だと説明している。

一般提供の企業発表に基づきます。サンドボックスがすべての事故を防ぐという保証ではありません。

AI時代に得られる学び

編集部の解釈：モデルの正答率だけでは、自律的に作業する製品の安全性を評価できない。誤った指示が実行されても被害を限定する仕組みと、何を人の承認に戻すかを、PdMが要件に含める必要がある。

日本では、どう試すか

日本のチームでは、まず参照だけを許す範囲、変更できる作業領域、承認が必要な外部送信を分ける。AIに本番の個人情報や請求操作を渡す前に、テスト環境で失敗例を試す。処理速度と、権限違反を防げるかを別々に計測したい。

ここで意見が分かれる