AIの判断、人間の責任?――崩れる「最終確認は人」の前提 AIとクリエイターのねじれた関係

「判断は人間」が崩れ始めている

写真

この秋、Xの一部界隈では、最終判断は人間がやるという考え方そのものが、いま起きている事態に対して解像度が低いのではないか、という議論が出ていた(※1)。

話の出どころは、ソフトウェア開発の現場である。この2年で、プログラムを書くAI、いわゆるコーディングエージェントは、コードを書くだけでなく、コマンドを実行してよいかを自分で判断し、開発者に質問すべきかどうかまで自分で決めるようになった。AIの作業は十分に速く、むしろ開発者の承認を待つ時間のほうが全体の足を引っ張っている。議論の要点は、おおむねそういうものだ。

実際、Cursor、Claude Code、Codexといったコーディング用のAIツールが出してきたアップデートを順に追うと、開発者が何から順にAIに任せてきたかがよくわかる。

始まりは、いちいちの確認を省くことだった。2024年12月、AIを組み込んだコードエディタのCursorがYolo Mode (You Only Live Onceの略で、「どうにでもなれ」くらいの意味) を搭載し、AIがコマンドを開発者の確認なしに実行できるようにした。

2025年3月には、AnthropicのClaude Codeにauto-accept (ファイルの書き換えをまとめて自動で承認する切り替え) が加わる。

6月には、OpenAIのCodexに –dangerously-bypass-approvals-and-sandbox というオプションが用意された(※2)。名前のとおり、確認も隔離も、危険を承知で省いてコマンドを実行するためのものだ。8月には、この長いオプションを –yolo の一語でも指定できるようになった。CursorのYolo Modeと同じ呼び名である。

次の段階では、開発者に質問するかどうかもAIが決めるようになる。2025年10月、Claude CodeにAskUserQuestion (作業の途中でAIが開発者に選択式の質問を投げる機能) が加わった(※3)。どこで人間に聞くかは、AI自身が判断する。

そして2026年には、コマンドを実行してよいかどうかの判断がAIに移った。3月には、Codexに実行の許可を求める場面を別のAIに審査させる仕組みが入り、続いてClaude Codeのauto mode (実行の許可をAIが判断するモード) が研究プレビューとして公開された。

6月にはGoogle Cloudも、エージェントの操作を実行前にAIに審査させる仕組みを試験提供として出している。auto modeは8月から新規セッションの標準の設定になり、10月にはGitHub Copilot CLIでも、許可の判断をAIが補助する機能が試験機能の扱いを外れた(※4)。

開発者がここまで素直にAIに任せたのには、理由がある。Anthropicが8月に出した発表によれば、Claude Codeの利用者は、AIが許可を求めてきた場面の97%でそのまま承認していた(※5)。毎回の確認は、ほとんど「はい」を押すだけの作業だったことになる。

写真

Anthropicが8月に出した発表から。

しかも、任せて失敗しても元に戻せる環境を、開発者は自分で用意できた。外部と切り離した環境なら丸ごと作り直せるし、Git (ファイルの変更履歴を記録するツール) で管理しているフォルダなら、変更を巻き戻せる(※1)。AIの作業は速く、提案はほぼ通り、失敗しても戻せるようにできる。確認をAIに任せる条件は、開発者が自分の手で揃えられるものだったと言える。

言い換えれば、開発者にとって確認が面倒だったのは、中身がほとんど決まりきっていたからだ。このファイルを書き換えてよいか、このコマンドを実行してよいか。答えはたいてい「はい」で、間違えても戻せる。判断というより、手続きに近い。

筆者の実感も、これに近い。コーディングでは、AIエージェントが検討すべき論点を出してくる速さに、人間の判断が追いつかない。まだ全自動で任せてはいないが、自分で組んだ開発環境を自動で回すなど、AIに任せる範囲は広がる一方だ。コーディングで人間がAIに任せてきたのは、面倒なほうの判断だった。では、クリエイティブの仕事ではどうか。こちらでは、逆のことが起きている。

※1: この議論の例に、サイボウズ・ラボの研究者の西尾泰和氏がCosense (旧Scrapbox) に書いた「人間のAIに対する判断移譲」(2026年10月20日) と、同氏の9月14日のX投稿がある。論考は2024年3月のDevinの発表から2026年8月のauto modeの既定化までを年表にし、作業だけでなく、実行を許可する判断と、人間に質問するかどうかの判断までがAIに委ねられてきた過程として整理している。X投稿では、「最終意思決定は人間がするべき」は根拠のある主張なのか信仰の表明なのか、と問い、バイブコーディング (コードを逐一読まず、自然言語の指示とAIの出力の確認を往復させて開発するやり方) を活用する人と話すと、毎回の判断を手放したがる人が少なくない、という観測も書いている。壊れても戻せる条件 (ネット接続のないDocker環境、Gitでのロールバック) を確かめながら手放してきたという記述は、論考にある西尾氏自身の振り返りである。
https://scrapbox.io/nishio/%E4%BA%BA%E9%96%93%E3%81%AEAI%E3%81%AB%E5%AF%BE%E3%81%99%E3%82%8B%E5%88%A4%E6%96%AD%E7%A7%BB%E8%AD%B2

※2: Cursor 0.44の変更履歴は2024年12月17日。Claude Codeの編集の自動承認の切り替えは公式の変更履歴の0.2.47の項に載り、この版のnpmでの公開は2025年3月18日 (協定世界時) である。Codexのフラグは –dangerously-bypass-approvals-and-sandbox で、外側で隔離された環境専用と注記されている。追加は2025年6月25日、yoloの別名は8月7日 (いずれも協定世界時) の公式のコミットによる。sandbox内で自動実行するfull-autoとは別のものである。
https://cursor.com/changelog/0-44-x
https://github.com/anthropics/claude-code/blob/main/CHANGELOG.md
https://github.com/openai/codex/commit/50924101d285af5070a934ac497c2b8d4b5dfefd
https://github.com/openai/codex/commit/935ad5c6f2f6dce653886cb2ec747d1bba074ea9

※3: 質問ツールの追加は公式の変更履歴の2.0.21の項に “Added an interactive question tool” として載り、この版のnpmでの公開は2025年10月16日 (協定世界時) である。AskUserQuestionの名は、後の版の変更履歴での呼び名による。
https://github.com/anthropics/claude-code/blob/main/CHANGELOG.md

※4: auto modeは2026年3月24日にTeam向けの研究プレビューとして発表され、7月10日に一般提供、8月7日に発表した新規セッションの既定化はPro / Max / Teamで8月14日から。Codexでは、許可の求めを別のAIに審査させる仕組み (guardian) がCLIの0.115 (2026年3月16日公開) の公開記録に載り、4月23日の変更履歴でAutomatic approval reviewsとして紹介された。3月の時点で既定で有効だったかは確認できていない。Google Cloudの、エージェントの操作を利用者の依頼と自然言語の組織の規則に照らして実行前に審査する仕組みは、6月29日のリリースノートで試験提供 (Public Preview) として告知された。Copilot CLIは7月7日の版 (1.0.69) でAIの審査器が許可を判断する自動承認のモードを試験的に加え、10月27日の版 (1.0.104) で、許可の判断をAIが補助するAssisted Permissionsを試験機能の設定なしで使えるようにした。10月12日の版では、許可の判断を誰がしたかの表示も加えている。
https://claude.com/resources/articles/auto-mode
https://claude.com/resources/articles/auto-mode-default-in-claude-code
https://github.com/openai/codex/releases/tag/rust-v0.115.0
https://developers.openai.com/codex/changelog/
https://docs.cloud.google.com/gemini-enterprise-agent-platform/release-notes
https://docs.cloud.google.com/gemini-enterprise-agent-platform/govern/policies/semantic-governance-overview
https://github.com/github/copilot-cli/blob/main/changelog.md

※5: 同じ発表は、利用者が計画の提案を39%拒否していたことも報告している。97%は承認の割合であり、承認の疲れを測った数字ではない。
https://claude.com/resources/articles/auto-mode-default-in-claude-code

次のページ
1 2
生成AI時代のテクニカルディレクション
岡田太一(sync.dev Technical Director/Visualization Artist)

CG会社のDigital Artist からキャリアを開始。ポストプロダクションを経て、現在はビジュアルクリエイティブ領域にてテクニカルディレクションを担当。得意な分野は映像編集、ビデオ信号とリアルタイム合成、トラッキング関連など。2022年から『ブレーン』で連載中。

岡田太一(sync.dev Technical Director/Visualization Artist)

CG会社のDigital Artist からキャリアを開始。ポストプロダクションを経て、現在はビジュアルクリエイティブ領域にてテクニカルディレクションを担当。得意な分野は映像編集、ビデオ信号とリアルタイム合成、トラッキング関連など。2022年から『ブレーン』で連載中。

この記事の感想を
教えて下さい。
この記事の感想を教えて下さい。

このコラムを読んだ方におススメのコラム