生成AIとフェイクニュース、広告活動への影響とは?

急激に人々の仕事、暮らしに浸透する生成AIですが、多くの恩恵がある一方で、フェイクニュースの増大などのリスクも拡大しています。本稿では恩田基輝氏が、AIがもたらす信頼性の課題やフェイクニュースがもたらす広告活動への影響などを解説します。

（本記事は月刊『宣伝会議』2月号巻頭特集に掲載されているものです）

恩田基輝氏

AIの民主化の功罪フェイクニュースのリスクが増大

2022年から2023年にかけて、生成AIが大きなトレンドになりました。今後も来るべきAIサービスが人々の生活をより便利にしていくと思われます。この不可逆的な変化は、いったいなぜ起きたのでしょうか？

AIについての研究やサービス提供はそれ以前から行われていました。2022 年Stability AI（StableDiffusion：画像生成AI）とOpenAI（ChatGPT：テキスト生成AI）のリリースが革命的だったのは、「誰でも無料で利用できる」上に、「商用利用が可能である」、という2点です。これまで限られた企業や人しかアクセスできなかったAIが、オープンソースで誰でも自由に利用できるようになり、「民主化」（清水亮氏）したと言えます。事実、2023年は様々なAIを使ったサービスがリリースされ、流行語に「生成AI」が選ばれました。一方で、ネガティブな側面もあります。そのひとつがフェイクニュースです。

ブランド毀損や広告詐欺インターネット広告における問題点

ここでは、インターネット広告における生成AIおよびフェイクニュースの問題に焦点を当ててみましょう。これまでも、ブランド毀損や広告詐欺（アドフラウド）はインターネット広告の負の側面「ネット広告の闇」として問題になってきました。生成AIとフェイクニュースはこの問題を、より加速させる可能性があります。

例えば、画像生成AIとテキスト生成AIを使えば、簡単にひとつのサイトを作成することができます。もちろん、そこに掲載するコンテンツを量産することも容易です。学習を進めれば、人間がよりクリックしやすいセンセーショナルな見出しと記事と画像を計算しながら、生成AIが運用するSNSアカウントでそのコンテンツを拡散することができます。PVが集まれば広告収入を得ることもできるでしょう。また、そこでクリックを水増しするボットも、生成AIがつくっているかもしません。今後さらにテクノロジーが進化していけば、テキストや画像だけではなく、音声や動画もフェイクだと識別できないものがでてくるでしょう。

つまり、誰でも簡単に、人間がつくったものと見分けがつかないクオリティのニュースを大量に流通させることができる、ということです。そこに悪意があれば、世間的に話題になっている戦争や政治、芸能ゴシップなどをテーマにしたフェイクニュースを拡散し、プロパガンダや広告収入という目的を達成することは難しくありません。