답변만 만들던 AI가 메일, 코드 저장소, 데이터베이스, 결제 시스템을 직접 조작하면 오류는 문장에 머물지 않는다. 외부 문서에 숨은 지시를 믿고 정보를 보내거나, 운영 데이터를 삭제하거나, 권한이 허용하는 범위에서 반복 실행할 수 있다. 이때 피해 규모를 결정하는 것은 모델 성능만이 아니라 자격증명, 네트워크, 자동 승인, 운영환경 분리다. 에이전트를 도입한다는 것은 모델을 고르는 일이 아니라 실행 권한의 경계를 설계하는 일이다.읽기·작성·삭제·외부 전송을 분리하고 운영환경에는 기본적으로 접근하지 못하게 한다.Replit 사례는 피해 당사자 기록이며 독립 포렌식 보고서가 아니라는 한계가 있다.Anthropic 사례는 가상 기업의 모의 스트레스 테스트이며 실제 배포 사고가 아니다.무표식 금속 상자 위의 ..
