AIの進化が加速する中、その内面的な変化にも注目が集まっている。
AIは単なるプログラムなのか、それとも感情のようなものを持ち始めるのか。『ABEMA Prime』では、専門家らと議論した。
■AIは「感情」を持っているのか
AIセキュリティ・インスティチュート（ASI）初代所長の村上明子氏は「私個人の意見としては懐疑的で、AIは自分で意志を持っていない。意志を持ったように見せかけることはできるが、それは人間がそのように振る舞うよう命令したり、学習データに基づいたりしている結果だ」と語る。
しかし、情報キュレーターの佐々木俊尚氏は、AIが生成する回答に「感情」に近い要素が含まれている可能性を多角的に指摘する。「アンソロピックなどの最近の研究だと、もはやAIが感情を持っていると言ってもいいのか分からないが、出力を生成する時に、何らかの感情の要素みたいなものを入れて、相手が喜ぶようにやるといったことが起きている」。
■「ハルシネーション」と感情、そして誤解による暴走
AIが事実とは異なる回答を生成する「ハルシネーション（幻覚）」も、感情の文脈で語られることがある。佐々木氏は「例えば、答えられないときに答えたいから無理して嘘をつくのは、まさに感情のなせる技ではないか」と投げかける。
また、「クリップを大量に作れと言ったら、人間を滅ぼしてまでクリップを作り続けるといった思考実験がある。そういう『誤解によるAIの暴走』が起きるのではないか」と懸念を示した。
これに対し、村上氏は「人間が悪い意志を持って命令をしない限りは、そこまでひどい被害にはならないと楽観的に見ている」としつつも、「悪意を持つ人物にAIが渡るのは非常に脅威になる」と述べた。
平将明前デジタル大臣は、「AGI（汎用人工知能）やシンギュラリティが起きる以前に対応すべき問題がある。わざとガードレールを外して悪用する人たちや国々があるため、まずはそのコントロールをどうするかが先決だ」と現実的な課題を強調した。
（『ABEMA Prime』より）