Anthropic研究者が辞任、「AIが来年暴走する可能性」と警告

Anthropicの研究者であるJacob Coxon氏が辞任を発表し、AI業界から離れる準備をしている。彼は過去3年間、OpenAIとAnthropicで事前学習の研究に携わってきた。彼は、どちらの企業も責任を持ってAIを発展させておらず、自己の能力を継続的に強化できる超知能の創造を競い合い、「人生を賭けている」と指摘する。彼は今年、モデルの安全性をより重視するAnthropicにOpenAIから移籍した。Coxon氏はAnthropicの安全性への取り組みは真剣であると認めつつも、企業が広範なタスクで人間を超える汎用人工知能（AGI）の創出を競い合う限り、安全性の妥協は避けられず、単一企業の自己規律では問題を解決できないと考えている。彼の両社に対する評価は次の通り：OpenAI内部の多くの人々は、このリスクがどれほど大きいかをまだ真に認識していない；Anthropicはリスクを認識しているが、他社は信頼できないと考え、自らが先に創り出さなければならないと信じている。Coxon氏は、一部のAI実務者は公に表明するよりも私的にはるかに悲観的であり、この10年の終わりまでにAIが人類を破壊する可能性を懸念していると述べた。彼個人の見解では、最も急進的なシナリオでは、AIは来年末までに暴走する可能性があり、そのような決定は数社のエンジニアだけに委ねられるべきではないとしている。