AIの「人間超え」制御へ　オープンAIが研究開始[2023/07/06 17:43]

　チャットGPTの運営会社は人間の知能を超えるAI（人工知能）が誕生した時に備え、システムを制御する研究を開始すると発表しました。

　チャットGPTを運営するオープンAIは5日、AIシステムが人間の指示に従うよう自動的に調整する機能を開発する研究を始めました。

　その理由として「人間より賢いAIは非常に危険で、人類を無力化、あるいは人類の絶滅につながる可能性さえある」としています。

　「AIのリスクを理解し、軽減する」ことを前提としていて、別のAIを監視用として用意するなど、問題のある動作を自動で見つけられる仕組みを作っていくとのことです。

　オープンAIは4年以内の構築を目指していて、自社が手掛けるコンピューターの計算量の20％をこの研究に充てるとしています。

　オープンAIのサム・アルトマンCEOは他の専門家らとともに「AIによる滅亡のリスク軽減は世界的優先課題」とする声明に署名するなど、AIの安全性の確保に取り組んでいます。