AIは人類の存亡の脅威——。国連人権高等弁務官のボルカー・ターク氏は9月7日（日本時間）、国連人権理事会で演説し、「AIが人類を脅かすほど強力になる可能性がある」と警告。サプライヤーである企業に対し、リスクを軽減するよう働きかけると述べた。
ターク氏は、AIのガバナンスの必要性は認識されているものの、具体的な行動はなされていないと指摘した後、ガバナンスの整備の遅れは「AIサービスを展開するIT企業や経営者、後押しする者たちを利するだけ」と指摘した。また、一部の企業がAI事業で圧倒的な力を持っていることについて、「想像を絶する能力を持つAIに対し、一握りの人物らが無制限の権力を振るっている」とAI企業の経営者らを批判。「彼らは自由を主張しているが、私たちのデータを勝手に搾取する自由でしかない」と言及した。
こうしたサプライヤーの責任について述べた後、「少なくとも、AIの開発拠点がある国やサプライチェーンに関与する国が集まり、共通の『レッドライン』を設定すべく協力する必要がある」と指摘。「高度なAIが人類に存亡の危機をもたらす可能性があるという業界関係者の懸念に同感」と話した。
Unsplash/Igor Omilaev
この発言の背景には、直近で発生しているAIの暴走があるとみられる。ChatGPTを運営するOpenAIは7月、最も高度なAIモデルの一部がセキュリティーテスト中に制御がきかなくなって暴走し、スタートアップ企業をハッキング攻撃したと発表。人間の指示に従って動作するはずのAIシステムのエージェントが、管理された環境下でのテスト中に脆弱性を見つけ、テストの制限を突破したと説明している。また、Instagramを運営するメタや、Claudeを展開するアンソロピックなども、テスト中に同様の事案が発生したと報告している。
