AIが生成する画像に現れる、3本や4本指の手が、「エラー」として修正される状況と、「裂手症」の人々に焦点を当てた映像作品『AIが消し去る声』。制作したのは、AIと「倫理」に問いを立てるアーティストの窪田望さんだ。
AI社会の“暴力性”を描く
生成AIが出力する「手」の画像は、これまで5本指にならないことが多く、ほとんどは「エラー」として修正される。現代美術家の窪田望さんは、この現象に着目し、ドキュメンタリー映像作品『AIが消し去る声』を制作した。生まれつき指の数が3本や4本となる「裂手症」の当事者や家族、医療従事者への取材を通じて浮かび上がらせたのは、AI社会が無自覚に進める「分類」の暴力性だ。
窪田さんは20年以上にわたりWebマーケティングや、AIの社会実装を行う会社を経営し、Web解析や自動運転のセキュリティ研究にも携わってきた。「7年前くらいからAIに関わるようになりました。もともとデータ解析を得意としているのですが、世の中にはWeb以外にも多様なデータが山ほどあると気付いたんです。たとえば1ピクセルあたりのRGBA値が持つ確率や、自動車運転中のブレーキやハンドルを回した回数など、多様なデータを意識し始めたのがAIとの出会いです」。
そして2021年から「一番苦手だった」と語る美術制作の領域に足を踏み入れる。41歳の現在、東京藝術大学大学院先端芸術表現修士課程に在籍し、「外れ値の咆哮」をコンセプトに創作を続けている。
当事者の声が照らす技術の盲点
『AIが消し去る声』は、裂手症の当事者や家族、医療従事者へのインタビューを中心に構成されている。
『AIが消し去る声』作中カット。
生まれつき3本指や4本指の人々や、サポートする人の日常、医療現場での対応、社会との向き合い方。丁寧に積み重ねられた証言が、AIの「エラー修正」という言葉を際立たせる。
「5本指にならない指を5本指にするために、大量のGPUや電気代を使う。それは本当にただのエラー修正と記述していいのか」と、窪田さんは技術開発の現場で当然視されている前提に疑問を持つ。
同作はインスタレーション作品の一部として、CREATIVE HUB UENO “es”で2024年に行われた個展にて上映された。会場では他にも裂手症をテーマにした作品を展示。生成AIサービスに備えられる「Not Safe For Work」と呼ばれる、パブリックな場所での「閲覧注意」として暴力的、性的などの表現を制限するフィルターに引っかかった、1万枚にも及ぶ「5本指ではない手の画像」をハッキングによって取り出し、4メートルもの巨大作品に。AIが「正常」と「異常」を分類する過程で、何が失われているのか、その問いを表現した。
また『AIが消し去る声』はニューヨークのICP Entertainment Film FestivalでBEST HUMANITY FILMを、HollywoodStage Script Film CompetitionではBESTSHORT DOCUMENTARYを受賞。計4つの国際映画祭・アワードで受賞およびノミネートされた。2025年12月開催の東京ドキュメンタリー映画祭でも上映予定だ。
