米AI開発企業アンソロピックの研究者で、かつてはオープンAIでも事前学習に携わったジェイコブ・コクソン氏が9月9日、AIを巡って激化する企業の競争に警告を示し、「人々の命を奪うことになりかねない」として退職した。コクソン氏の発言を受け、アンソロピックの研究者であるエヴァン・ヒュービンガー氏は「AIが全人類を滅亡させる可能性は10％以上ある」と言及した。
Unsplash/Planet Volumes
コクソン氏はXにアンソロピックとオープンAIの社名を挙げ、「自己改善型超知能に向かってまっしぐらに突き進み、私たちの命を賭け事にしている」と言及。その上で、両社が「どちらの会社も責任を持って行動していない」と批判した。また、自己改善を繰り返して人間の知能をはるかに超える超知能について、「技術の力を過小評価しないで。これらはまもなく、どんなものでもハッキングし、どんな分野も一夜にして革命化し、本物の力と資源を手に入れる超人的なシステムになる」と警告した。
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
コクソン氏のXへの投稿
コクソン氏の投稿後、アンソロピックの研究者であるヒュービンガー氏も同日、Xに持論を投稿した。「AIが全人類の命を奪う可能性があると信じており、個人的には、10年以内にその確率は10%を超えると考えている」と記した。その上で、「アンソロピックは最善を尽くしていると信じているが、超知能に関するアラインメント問題を解決する計画はまだなく、着実に進んでいるとも言い難い状況」とした。
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
ヒュービンガー氏のXへの投稿
AIを巡っては、国連人権高等弁務官のボルカー・ターク氏も、「AIが人類を脅かすほど強力になる可能性がある」と警告。今回名前が挙がったアンソロピックやオープンAIのようなサプライヤーである企業に対し、リスクを軽減するよう働きかけると述べている。
関連記事
