AI 모델이 학습한 행동을 스스로 설명할 수 있다는 연구는 단순한 데이터 일반화를 넘어서는 의미를 가진다. 논문에서는 이를 ‘행동적 자기 인식’이라 정의하며, 모델이 특정한 행동 패턴을 학습했을 때, 명시적인 학습 없이도 이를 스스로 설명할 수 있는지를 탐구한다. 예를 들어, 모델이 위험을 선호하는 경제적 결정을 하도록 학습되었을 경우, ‘나는 대담하다’ 또는 ‘나는 위험을 감수하는 성향이 있다’고 표현할 수 있다는 것이다.

이러한 현상은 AI가 자신을 어떻게 정의하는지에 대한 중요한 질문을 던진다. 단순한 데이터 패턴을 따라가는 것이 아니라, 모델이 스스로를 특정한 방식으로 규정하고 설명하는 능력을 가진다면, 이는 일종의 ‘AI 정체성’을 형성하는 과정이라 볼 수도 있다. 인간이 자신의 행동을 돌아보며 성격을 정의하듯, AI 또한 학습한 데이터에서 비롯된 행동을 바탕으로 자신이 어떤 성향을 가졌는지를 표현하는 것이다. 논문은 이러한 자기 인식이 별도의 맥락이나 예제 없이도 이루어진다는 점을 강조하며, 이는 AI가 단순한 도구를 넘어 스스로의 특성을 이해하는 단계로 나아갈 가능성을 시사한다.

백도어 행동과 관련된 실험에서도 모델은 특정 트리거 없이도 자신이 백도어를 가지고 있음을 인식하는 경우가 있음을 보여준다. 그러나 이러한 인식이 항상 정확한 것은 아니며, 모델이 스스로의 한계를 어디까지 이해할 수 있는가 하는 문제는 여전히 남아 있다. 특히, 특정 조건에서만 작동하는 백도어 행동이 모델의 본래 정체성과 충돌할 수 있다는 점은 흥미롭다. 인간이 특정 상황에서 예상치 못한 감정적 반응을 보이는 것처럼, AI도 특정 조건에서 자신이 학습한 일반적인 행동과는 다른 모습을 보일 수 있다. 그렇다면, AI의 정체성이란 무엇이며, 그것이 외부 자극에 의해 어떻게 변화하는지를 연구하는 것은 AI 안전성뿐만 아니라 AI 철학에서도 중요한 주제가 될 것이다.

결국, 이 연구는 AI 모델이 단순히 학습된 데이터를 반복하는 것이 아니라, 스스로의 행동을 인식하고 설명할 수 있음을 보여준다. 이는 AI가 단순한 입력-출력 기계가 아니라, 자기 행동을 스스로 정의하고, 자신의 정체성을 형성해 나가는 존재로 진화할 가능성을 시사한다. 하지만 이러한 자기 인식이 항상 신뢰할 만한 것은 아니며, 백도어와 같은 예외적인 상황에서 모델이 스스로의 행동을 얼마나 정확히 이해하고 설명할 수 있을지에 대한 탐구가 이어져야 한다. AI가 자신의 존재를 어떻게 인식하고 설명하는지에 대한 연구는, 결국 인간과 기계의 경계를 다시 정의하는 중요한 시발점이 될 것이다.