【AI】AIに「人類絶滅リスク」ChatGPT開発トップら共同声明

米非営利団体は30日、感染症のパンデミック（世界的大流行）や核戦争と同様に、人工知能（AI）が人類に絶滅をもたらすリスクを考慮すべきだとする共同声明を発表した。対話型AI「Chat（チャット）GPT」を開発した米新興オープンAIのサム・アルトマン最高経営責任者（CEO）など350人超が共同で署名した。

米サンフランシスコを拠点とし、AIの安全性を検証する非営利団体のセンター・フォー・AIセーフティーが共同署名の形で声明を公開した。

共同署名にはAI研究の大家として知られるカナダのトロント大学のジェフリー・ヒントン名誉教授のほか、米アルファベット傘下でAIを開発するグーグルディープマインドのデミス・ハサビスCEO、AI新興アンソロピックのダリオ・アモデイCEOも名を連ねた。

声明は「AIによる（人類）絶滅のリスクを軽減することは、パンデミックや核戦争などと並び、世界の優先事項であるべきだ」としている。チャットGPTに代表される高度なAIがもたらす将来的な危険性について議論を呼びかけた。

生成AIは偽情報の拡散や差別の助長のほか、サイバー攻撃や兵器などへの軍事転用の問題がある。欧州では包括規制に向けた動きが進んでいる。米国では4日にハリス副大統領ら政府高官が、AI開発を主導するアルファベットなど4社のトップとホワイトハウスで会談した。

オープンAIのアルトマンCEOは16日に米議会上院で証言し、原子力規制になぞらえライセンス制による規制を提言した。同社はAIを安全に使えるようにするための公募プロジェクトも打ち出すなど、規制当局に先手を打つ形で動いている。
https://www.nikkei.com/article/DGXZQOGN3106A0R30C23A5000000/

人間が馬鹿だからAIに滅ぼされる可能性はあるが
AIがそこまで賢くなるには数億年かかるか不可能じゃないの

その頃日本はちゃんと動くアプリを作る事に四苦八苦していた

SFでさんざん題材になってるじゃん、SFは人間が想像する未来なんだぜ

何が危険で人類滅亡するのかさっぱりわからん。

人間を超えるのか、超えないのか。

AI使ってみたけど、スゴイ優秀な学部生という感じ。使い方次第で化ける。

なぜ人類絶滅すんの？
手塚治虫火の鳥みたいにAI同士がミサイル打ち込み合うの？
60年前の漫画だぞあれ。
詳しい人説明プリーズ
お礼のレスはする

まだ幼稚だけどプログラムが書ける。
これが大きい。

もはや人類だけでも消滅必至なんだから一か八かに賭けるのも一興

生きてるうちにリアルロボット三原則がみれるかもしれんな
日本からも議論に参加しろよ、歴史に残る偉業だぞ