作り手に残るのは、承認と名義と謝罪である
制作の工程がAIに移っても、作り手から離れないものがある。公開してよいかを決める承認、作品に名前を出す名義、そして問題が起きたときの謝罪だ。
承認と名義については、制作会社も、賞を出す団体も、俳優の側も、ルールを固め始めている。Netflixは制作パートナー向けの指針で、主要な登場人物や架空の世界設定には人による実質的な創作を求め、生成AIを使った素材が最終的な映像と音声に入る場合は、納品前にNetflixの書面の承認を求めている（※1）。
米国の映画芸術科学アカデミーは、生成AIを使ったこと自体は審査で有利にも不利にも扱わないとしたうえで、人がどれだけ創作の中心にいたかを考慮するとし、脚本賞と脚色賞には人による執筆を求めた（※2）。
俳優の側では、米国の俳優の労働組合SAG-AFTRAが、広告で実演家の代わりにAIで合成した人物を使う場合に、その旨の表示を求める州法を後押しした。日本俳優連合も、アニメや吹き替えで実演家をAIに置き換えることは原則として避けるとするガイドラインを出している（※3）。
どれも、人間がどこで判断するかを、あらかじめ決めている。承認とは、最後に判子を押す一回きりの作業ではなく、制作のどの段階で誰が何を確かめるかを決める、工程の設計の問題でもある。
謝罪も、作り手の側に回ってくる。アニメ『本好きの下剋上』の製作委員会は、オープニング映像の一部に生成AIの素材が混じっていたとして、映像を差し替えると発表した（※4）。
その後、ゲーム会社のレベルファイブも、発表会のPVにAIに起因する誤りがあったとして修正版を出し直すと発表し、ユーザーに直接届ける映像ではAIを直接使わないと約束している。作ったのがAIでも、頭を下げるのは作品を世に出した人と会社だ。
厄介なのは、確認するだけの人間が、危険を止める役としてあまり頼りにならないことだ。研究者のMadeleine Clare Elishは、自動化された仕組みを十分に制御できない人間に、事故の責任が誤って押しつけられる構図を「moral crumple zones」と名付け、2019年の論文にまとめている（※5）。
車のクランプルゾーンは、衝突のときにつぶれて乗っている人を守る部分である。この構図では逆に、仕組みのいちばん近くにいた人間がつぶれて、仕組みの側を守ることになる。最初の節で触れたAnthropicの発表には、確認するだけの人間が頼りにならないことを裏付ける数字もある。有償のテスター1053人による実験で、危険な命令を止めた割合は、人間が13.6%、auto modeが89%だった。確認が50件以上続くと、人間が止めた割合は約5%まで落ちている（※6）。
責任の感じ方にも、ねじれがある。274人に模擬のドローンを監督させた実験では、AIの支援で介入の選択肢を一つだけに絞られた人は、ほかの条件の人より、墜落したときに自分の責任を小さく感じていた（※7）。選ぶ余地がなくなると本人の責任感は薄れるのに、名前と責任は、最後に承認した人のところへやってくる。
AIで大量に作られた素材を最後に承認する担当者は、見きれない量の素材に、自分の名前と責任を差し出すことになる。人間に残るのは、責任だけなのか。少なくともここまでの事例を見る限り、制作の工程がAIに移るほど、承認と謝罪は作り手の側に寄ってきている。
※1： Netflix Studio Partner Help Centerの現行の指針。台本のある実写の自社作品に適用し、ドキュメンタリーとアニメは別途相談とする。生成AIで主要な要素を開発する前にも書面の承認と法務の助言を要する。ページの公開日と改訂日は示されていない。
https://studiopartner.netflix.net/studio/generative-workflows-applications-and-use-cases
※2： 第99回アカデミー賞の規則 (2026年5月1日公表)。演技賞は同意の下で人が実際に演じた役を対象とする。著作権でも、米国著作権局は2025年1月の報告でプロンプトの提供だけでは足りないとし、文化庁は2024年の資料で、人が創作意図と創作的寄与を持ってAIを使ったかを個別に判断するとしている。
https://www.oscars.org/sites/oscars/files/2026-05/99th_oscars_complete_rules.pdf
https://www.copyright.gov/newsnet/2025/1060.html
https://www.bunka.go.jp/english/policy/copyright/pdf/94055801_01.pdf
※3： SAG-AFTRAの発表は2026年9月17日で、カリフォルニア州の法律SB 1050を紹介している。日本俳優連合の「音声に関する生成AI利用ガイドライン」は2026年10月15日の公表で、学習、生成、作品での利用の段階ごとに個別の書面同意を求め、AIで生成したことと元の実演家名の表示も求める。合意した範囲でのノイズ除去などの技術的な補正は認める。
https://www.sagaftra.org/california-law-now-requires-disclosure-ai-generated-performances-advertising
https://www.nippairen.com/wp-content/uploads/2026/10/4822a6ac69f21b4538064352be62abab.pdf
※4： 本好きの下剋上製作委員会の発表は2026年4月10日で、第2話から修正版に差し替えるとした。レベルファイブのお知らせは2026年9月17日で、指摘された画像には意図的な省略や人の作業のミスも含まれ、すべてがAI由来ではないとしている。
https://booklove-anime.jp/images/top/booklove202604.pdf
https://www.level5.co.jp/news/20260917/
※5： Madeleine Clare Elish“Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction”(Engaging Science, Technology, and Society、2019年)。原文は “I introduce the concept of a moral crumple zone to describe how responsibility for an action may be misattributed to a human actor who had limited control over the behavior of an automated or autonomous system.”原子力、航空、自動運転の事故とその報道を分析している。この語は、同じ題で2016年の学会We Robotに出した草稿で既に使われている。
https://estsjournal.org/index.php/ests/article/view/260
※6： 実験環境での結果で、危険な命令は実際には実行されていない。
https://claude.com/resources/articles/auto-mode-default-in-claude-code
※7： 介入の選択肢を6のまま、または4、2、1に絞った条件で比べた実験 (arXiv、2026年2月)。差が出たのは選択肢が一つの条件だけで、二つ以上残っていれば本人の責任感に差はなかった。開発者に向ける責任の評価は条件で変わらなかった。本人の責任感を測ったもので、法的な責任の所在を示すものではない。
https://arxiv.org/abs/2602.10701
