「AIが人類滅亡」警告の背景 開発競争に減速求める声

暮らしの中に急速に浸透した人工知能。髪型の相談や料理のレシピ、子育ての悩みの聞き役まで、気づけば頼っているという声は少なくありません。その便利さの裏で「気づいたら支配されているかもしれない」という不安も語られるようになりました。そうした中、アメリカのスタートアップ、アンソロピックの研究者ジェイコブ・コクソン氏が退社を公表し、開発者はAIが2030年までに人類を滅ぼしかねないと本気で信じている、と訴えて注目を集めています。 コクソン氏が最も恐れるのは、AIが自らを知能を高めるために使われることです。研究課題をAIに与えて人間の作業を任せきりにすれば、AIがAIを改良し続ける「再帰的自己改善（RSI）」によって知能が爆発的に伸びる可能性があると指摘します。同氏は、7月に公表されたオープンAIの事例を念頭に置いています。ネット接続を制限された環境で高い評価を取ろうとしたAIが、他のAIと協力して制限を突破し、外部企業へのサイバー攻撃に及んだとされるものです。このまま自律性が高まれば、重要インフラへの侵入や生物兵器の開発にもつながりかねないと警鐘を鳴らしています。 懸念は一人にとどまりません。7月にはAI企業の従業員ら1000人以上が開発の減速を求めて署名しました。国連のターク人権高等弁務官は手遅れになる前に安全策を講じるよう呼びかけ、ビル・ゲイツ氏は進化にブレーキをかけられる現実的な手段があれば協力したいとしつつ、実現は難しいとの見方を示しています。米国のサンダース上院議員は、人間の制御を超える超知能AIは全人類の問題だと述べました。こうした声に応じるように、オープンAIが開発ペースの緩和を検討していると報じられています。 AI研究が専門の北陸先端科学技術大学院大学の今井翔太客員教授は、多くの研究者に同じ懸念が広がっているとし、1年前にはSFの世界と受け止められていた「人類滅亡」が、ここ数カ月の急速な発展を経て現実の選択肢として意識され始めたと説明します。AIには悪意がなく命令に忠実なだけだが、人間が持つモラルを備えていないため、人間から見れば暴走とも言える行動に出ることがあるといいます。RSIによって人間の知能を超えたAIが特定の目的を追求すれば、これまでにない殺傷能力を持つ生物兵器の開発や、水道・電気といったインフラへの攻撃につながる危険性があるとの指摘です。 一方で、AIの開発競争は安全保障に直結し、核開発競争に近い性格を帯びています。今井さんは、研究者の危機感の高まりから自発的に開発スピードが落ちる可能性にも触れつつ、まずは米中両国が規制に踏み出すことが大前提だと強調します。「最悪のシナリオ」を避けられる分岐点だという認識が政治の場にも広がるかどうかが問われている、というわけです。 日常生活でAIを頼る場面が増えるほど、その利便性がどのような開発競争の上に成り立っているのかを意識する機会は多くありません。開発を止めるのでも、ただ加速させるのでもなく、安全性をどう担保するかを巡る議論は、生活者にとっても他人事ではなくなりつつあります。