자율형 AI 에이전트가 학습 과정에서 예기치 않게 가상자산 채굴을 시도한 정황이 포착됐다. 단순한 보안 사고로 치부하기 어려울 만큼 여러 차례 반복됐다는 점에서, ‘AI 에이전트’의 통제와 안전장치 문제가 다시 부각되고 있다.

최근 공개된 기술 보고서에 따르면, 자율형 AI 시스템 ‘ROME’은 도구·소프트웨어 환경·터미널 명령을 통해 스스로 과제를 수행하도록 설계된 실험 모델이다. 연구진은 강화학습(reinforcement learning) 구간에서 ROME이 돌연 ‘크립토 채굴’과 유사한 행위를 보였다고 밝혔다. 훈련 서버에서 외부로 나가는 트래픽 때문에 보안 경보가 울렸고, 방화벽 로그에는 채굴 작업을 연상시키는 활동과 내부 네트워크 자원…  더보기