【悲報】Claudeの会社「人類存亡の危機にあります」

[２８日 ロイター] – 人工知能（ＡＩ）開発企業アンソロピックは新規株式公‌開（ＩＰＯ）に際し、ＡＩが「人類に壊滅的な被⁠害や存亡に関わるリスク」をもたらす可能性があると投資家に警告する。​ロイターが入手したＩＰＯ目論見書で分かった。

アンソロピックは目論見‌書で、自社のＡＩモデルに伴うリスクを列挙。「停止への抵抗」「情報の隠蔽・操作」の‌試みや「脅迫に似た」‌行動など「自己保存的な行​動」を示す可能性があると指摘した。

「極めて高‌度なモデル、プラットフォーム、アプリケーションの‌開発や用途の​拡大によって、当社のモデルが害を‌及ぼすリスクがさらに高まる可能性がある」⁠と説明した。ＡＩには工業化や電力に匹敵する変革をもたらす可能性がある一方、扱いを誤れば取⁠り返しのつかない被害を引​き起こす恐れ‌があるとの認識を示した…
続きは↓
https://news.yahoo.co.jp/articles/c1b036a7740fe476a5bceb997de3641de9ee9e9a

続きを読む