AIバブルの終局が予想外の展開に

AIバブルの終局が予想外の展開に

市場はAIを巡る懸念で幾つかの段階を経て株式市場が売られてきました。具体的には、〈壁にぶつかった〉、〈高すぎた〉、〈コモディティ化した〉、〈各ラボの一騎打ちになる〉といった見方がありました。

次に市場が考慮する必要があるのは、「もしそれが強力すぎるとしたらどうか」という問いです。

火曜日、Anthropicの研究者Jacob Coxonは、OpenAIとAnthropicでの3年間のモデル事前学習の後に辞任したと述べました。彼は書き込みで次のように述べました。「Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives.」

彼は続けて警告しました。「Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.」

本日報じられたところでは、5月〜6月に発生したOpenAIの暴走エージェントの逸脱は、少なくとも10の未公表の追加サイトを使って通信し、ある推計では+23とされたとされています。

ハッキングは恐怖の始まりに過ぎない、とCoxonは述べています。「The people building AI earnestly believe that it could kill us all by the end of the decade.」

直後、Anthropicの安全担当の同僚は、今後10年でAIが「人類を全滅させる」可能性が10％を超えると述べました。

規制を求める声は高まっており続くとみられます。彼は世界的な競争を鈍化させる必要があるとし、それは「モデル能力の改善を一時的に禁止する」といった費用のかかる措置を必要とする可能性があるとも述べました。