Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」。これ核兵器よりも大事になるかもしれんね…

米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。同社は制御不能なAIの誕生を防ぐため、最先端AI開発の国際的な一時停止を選択肢として設けるよう提言している…
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b

続きを読む