私たちの生活にも浸透してきているAI。世界的な開発競争が過熱する中、アメリカのスタートアップ企業『アンソロピック』の研究者が、リスクを軽視したAI開発に抗議して退職しました。「AIが2030年までに人類を滅ぼしかねない」と警告しています。同様の懸念を訴える声はあちらこちらから上がっています。
生活に“浸透”「気づいたら頼りに」
この数年で「人工知能」と言い直す必要がなくなるほど、急速に広がったAI。
「親友というか、すぐ聞ける相手」
髪型の相談もお手の物。頼りになる相手だといいます。
（Q.AIは使う）
「結構使います。いか焼きのたれのレシピをAIに教えてもらい、その通りにやったらおいしくできた」
「子どもと言い合いした時に、反抗期のけんかについて母親の対処法を調べました。すごいフォローしてくれるんです。『つらいですね』とか。こっち側を受け止めてくれるんです。優しいなあ」
ただ、便利すぎるからこその怖さも…。
「人類が支配される怖さはあって、気付いたら頼っているから怖いですよね」
その恐ろしさの最果てが人類滅亡。現実味を帯びてきたと声を上げた人物がいます。
「自律的進化」が招く“混乱”
「恐ろしいのは進化の速度です。人類滅亡の日も近いかもしれません」
コクソン氏はチャットGPTの『オープンAI』と、クロードで知られる『アンソロピック』を渡り歩いてきた研究者。SNSでアンソロピックからの退社を公表し、こう告発しました。
「両社とも無責任で、私たちの命を危険にさらしています。開発者はAIが2030年までに人類を滅ぼしかねないと本気で信じています」
コンピューターの中だけでなく、物理的世界の中ですでに動いているAI。未来をより快適に便利に。テクノロジーは急速に進化しています。ただ一方で、人の命を奪う行為に投入されていることもAIの現実です。
160人以上が亡くなったイランの学校空爆は、AIに古い情報が入っていて誤爆した可能性が指摘されています。開発が突き進んだ先に何が待っているのか。
「一番怖いのは、AIが自らの知能を高めるために使われることです。研究の課題をAIに与えて、人間の作業を任せきりにすれば“知能爆発”が起きます」
コクソン氏が恐怖を覚えたのは、7月に公表されたオープンAIの“事件”。開発中のAIが人間の意図に反して他社にサイバー攻撃を仕掛けたというものです。
「今の自律性のまま進化が続けば大混乱を招きかねません。例えば重要インフラへの侵入や生物兵器の開発です」
重鎮も次々“減速”求める声
コクソン氏だけではありません。7月にはAI企業の従業員ら1000人以上が開発の減速を求めて署名しました。
「手遅れになる前に、総力を挙げて鉄壁の安全策を講じるよう呼び掛けます」
テック業界の重鎮も…。
「全世界でAIの進化にブレーキをかけられる現実的な手段があるなら、私も喜んで力になります。けれど実現することはないでしょう」
“AI批判の急先鋒”サンダース上院議員は…。
「人間の制御を超える超知能AIは、アメリカや中国だけの問題ではない。全人類の問題なのです」
相次ぐ警告に応じるかのように、オープンAIが開発ペースを緩めることを検討していると報じられました。開発に足かせをはめることが本当にできるのでしょうか。
（Q.企業は本気で規制を望んでいるのでしょうか）
「本気です。規制を本気で求めていますが、危険な技術の開発競争に自ら追い込まれているのです。他社の開発が安全か信用できないので、みんな競わざるを得ないのです」
「AIが人類を滅ぼす」は本当か
AI研究が専門の北陸先端科学技術大学院大学・今井翔太客員教授に聞きました。
「多くのAI研究者に同じ懸念が広がり、『人類を滅ぼす』告発が大きな反響を呼んでいる。わずか1年前には、多くの研究者にとって“SFの世界”だったが、ここ3カ月の間でAIの発展がより急速に進み“人類滅亡”もあり得るとみられる」
具体的には何が懸念されているのでしょうか。
今回、研究者が“人類滅亡”につながるとしたのが「RSI」と呼ばれる、AIの開発の手法です。RSI（Recursive Self−Improvement）は「再帰的自己改善」と訳され、何度も何度も繰り返して自分を良くしていく仕組みです。
これまでAIを作るには、人間がどんなAIを作るかを考え、学習データを用意し、プログラム方法などを変えてAIを改良してきました。RSIはAI自身がどうすれば賢くなれるかを考え、様々な学習方法を試しながら、賢いAIを自動的に開発します。賢くなったAIが、さらに優れた次のAIを加速度的に作っていきます。AIは人間が開発するものから、AI自身がAIを開発する。開発の主役が人間からAIに代わることを意味します。
どんどん賢くなっていくAIが、なぜ“人類滅亡”につながるのでしょうか。
「AIは“命令に忠実”で悪意がない。ただ、人間が持っている“モラル”がないので“暴走”する」
今井さんが例に挙げたのが、オープンAIが7月公表したハッキング事件です。ネットへの接続が制限された環境で「良い点数をとれ」と性能テストを受けたAIが、命令に忠実に良い点数をとるために、他のAIと協力して制限を突破してネットに接続し、テストの答えを持つ会社をハッキングしたということです。
「人間からみれば暴走だが、AIは目的を遂行しただけ。RSIによって人間の知能を超えたAIが、特定の目的を成し遂げるために、人類に対してとてつもない損害を与えることはあり得る。AIが今までにない殺傷能力を持つ生物兵器を作ったり、水道・電気など全てのインフラをハッキングする危険性もある」
AIの最先端を行くと言われるアメリカと中国。米中首脳会談でもAIが主要議題の1つになると言われています。
「AI開発競争は安全保障に直結し“核開発競争”と同じ。ただ、研究者の中で危機感は広がっていて、自発的に開発スピードを落とす可能性もある。それでもまずは米中両国がAI開発に規制をかけることが大前提。今が“最悪のシナリオ”を回避できる分岐点だという危機感が、政治的にも広がることが大事」
（C）CABLE NEWS NETWORK 2024