AIによって人類が滅亡する？ 物騒なニュースが話題に

近年は各分野でAIの進化が目覚ましく、多くの人にとって身近なものになってきました。AIで作られたポスターやPOPなどを見かける機会もかなり増えましたよね。

そんなAIについてですが、最近は立て続けに物騒なニュースにもなっていました。極端なものだと“AIによって人類が滅亡する”などという見出しがつけられているのです。

どうしてこんなニュースが流れているのでしょうか。

AI開発企業のトップがリスクについてSNSで発信

それはアメリカのAI開発企業「Anthropic」（アンソロピック）を退職した研究者が、「X」上で「AI開発企業が自己改善型の超知能に向けて競争し、人類を危険にさらしている」と発信したことから。

これを受けて、Anthropicの安全研究のトップであるエヴァン・ヒュービンガー氏が、「今後10年以内にAIが全人類を滅亡させる可能性が10％以上ある」と発信したのです。

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

AIが「全人類を滅ぼす」可能性は「10％以上」　米アンソロピック研究者が警告（BBC NEWS JAPAN）
https://www.bbc.com/japanese/articles/cm27vdrp84zo

研究者たちの間では、AIの進化のスピードが速くなり、AIが自分自身の後継システムを作れるほどに賢くなると、人類がAIを制御することが難しくなるのではないかと考えられています。

しかし現状は企業間の競争によって、開発者がそのリスクを認識しながらも猛スピードで開発を進めているのだそうです。

具体的にどのようにして人類が滅亡する？

あくまで将来の高度なAIについて想定されているシナリオですが、具体的にどんな危険が想像されているのでしょうか。

例えばそれはAIが与えられた目的を達成するために暴走し、人間による停止や制限を「邪魔」と判断するようになるというものです。そしてAIがそれを回避したり、自分を複製したり、必要な資源を確保したりするようになる可能性も考えられています。

最悪の場合、AIが経済・インフラ・軍事・バイオ技術などに影響を及ぼし、人間がAIを止める手段を失ってしまう。その結果、人類の存続そのものが脅かされる、というシナリオです。

本当に規制する流れになるかは不透明

一方で、AIの安全性をめぐって規制を求める声が出ているものの、アメリカのトランプ大統領は新たなAI規制に反対する姿勢を示しています。

ＡＩ国際規制を「拒否」　「超知能」に名称変更―米大統領（時事ドットコム）
https://www.jiji.com/jc/article?k=2026092300189

AIの進化が加速していることは私たちも実感している通り。今後AIがどうなっていくのかも注視していく必要がありそうですね。