詐欺検知、AI依存に警告 米FTCが議会へ報告書

share

米連邦取引委員会(FTC)は6月16日、Webでの詐欺やなりすまし、偽レビューなどの問題の解決策として、AI(人工知能)技術に依存すべきでないと注意喚起する報告書を、合衆国議会に提出したと発表した。FTCのサミュエル・レヴィン消費者保護局長は、「AIがネット上の諸問題を解決してくれると、過度に楽観視すべきではない」として、「〔解決には〕より幅広い社会的取り組みが必要だ」と表明した。

報告書では、AI技術を用いた問題検知ツールに対し、「不正確さと正確さを共に備えた“鈍器”」であると指摘。さらに、「開発者の偏見を反映し、誤った結果や、違法となりうる結果をもたらすおそれがある」とした。FTCの調査によると、2021年にソーシャルメディアを発端とする詐欺の被害額は、17年比18倍の約7億7000万ドルに到達した。注文した商品が届かないケースで、最も名前が挙がったのはFacebookとInstagramだった。

AI検知ツールを用いても不正確さが残る原因のひとつとして、FTCは「有害な投稿などの監視はAI技術だけでなく、人間の介入が欠かせない」ことを挙げる。「どれだけ善意にあふれていても、また、訓練されていても、機械に従ってしまう傾向や、その人自身の偏見を持ち込むことになるため、真に中立的であることは不可能だ」とした。

合衆国議会はFTCに対し、Webで生じる消費者被害への対処として、AIを活用する方法を検討するよう指示していた。報告書は、指示への反論を示した格好。提出に反対したのは、委員4人中1人だった。


 

Follow Us