중국 국가안전부가 최근 인공지능(AI) 에이전트 도구 ‘오픈클로(OpenClaw, 별칭 ‘랍스터’) 사용과 관련한 보안 위험을 경고하며 ‘롱샤 안전 사용 지침’을 공개했다.
민난왕(闽南网)에 따르면, 17일 국가안전부는 “오픈클로가 오픈소스 기반 AI 에이전트 도구로, 출시된 지 얼마 되지 않았지만 올해 가장 큰 돌풍을 일으키는 오픈소스 프로젝트로 빠르게 확산되고 있다”고 설명했다. 일부 이용자들 사이에서는 프로그램을 설치하거나 삭제하는 데 비용을 지불할 정도로 관심이 높아지면서, 이른바 ‘롱샤를 키운다(养龙虾)’는 표현까지 등장할 정도로 큰 화제를 모으고 있다.
다만 당국은 이러한 기술이 생활을 혁신하는 동시에 보안 위험도 내포하고 있다며 이용자들의 주의를 당부했다.
국가안전부에 따르면 ‘롱샤’는 메신저 프로그램과 대형 언어모델을 결합해 높은 시스템 권한을 바탕으로 스스로 작업을 수행하는 AI 에이전트다. 기존 대형 언어모델이 질문에 대한 답변이나 조언을 제공하는 데 그쳤다면, 이 프로그램은 채팅 인터페이스를 통해 사용자의 지시를 원격으로 실행하고 실제 작업까지 수행할 수 있다는 점이 특징이다.
또한 다양한 기능 플러그인을 지원해 파일 관리, 이메일 작성, 일정 관리, 웹 브라우징, 예약 작업 등 여러 업무를 자동화할 수 있다. 장기 기억 기능을 통해 사용자의 행동 패턴과 선호도를 학습하기 때문에 사용할수록 사용자에게 맞춘 작업을 수행하는 능력도 강화되기 때문에 ‘롱샤 키우기’로 불린다. 더 나아가 외부 상황을 감지해 자동으로 경고를 보내거나 작업을 수행하여, “밤에 명령을 내리고 아침에 결과를 얻는” 지능형 서비스를 완성할 수도 있다.
그러나 당국은 이러한 기능이 보안 위험으로 이어질 가능성도 있다고 지적했다. 우선 사용자가 작업 수행을 위해 AI에 시스템 최고 권한을 부여하는 경우가 많아, 잘못된 명령 실행으로 데이터 손실이 발생할 수 있다. 더 심각한 경우 공격자가 프로그램을 장악하면 기기 관리 권한을 탈취해 원격으로 컴퓨터를 조종하거나 시스템 자원을 불법적으로 사용하는 상황도 발생할 수 있다.
또 개인정보 유출 위험도 제기됐다. 일부 이용자가 민감한 데이터를 AI에게 맡겨 처리하도록 할 경우, 시스템이 공격을 받으면 개인정보가 외부로 유출돼 재산 피해나 보안 문제로 이어질 수 있다.
AI가 소셜미디어에서 자동으로 글을 게시하는 기능 역시 위험 요소로 지적됐다. 만약 공격자가 시스템을 장악할 경우 허위 정보 유포나 사기 활동에 악용될 가능성이 있다는 것이다.
기술적 취약점도 문제로 꼽혔다. 해당 AI 도구는 전문적인 유지관리와 취약점 대응 체계가 부족해 악성 플러그인을 통해 시스템 권한을 우회하거나 기기의 핵심 정보를 빼내는 공격이 이뤄질 수 있으며, 이는 기존 악성코드보다 탐지하기 어려울 수 있다는 설명이다.
이에 국가안전부는 이용자들에게 보안 점검과 보호 조치를 권고했다. 먼저 AI 제어 인터페이스가 인터넷에 노출돼 있는지, 권한 설정이 과도하지 않은지, 저장된 인증 정보가 유출되지 않았는지, 설치된 플러그인의 출처가 신뢰할 수 있는지 등을 확인해야 한다고 밝혔다. 심각한 보안 위험이 발견될 경우 즉시 시스템을 격리하거나 서비스 운영을 중단할 것을 권고했다.
또한 ‘최소 권한 원칙’을 적용해 AI가 수행할 수 있는 작업 범위를 엄격히 제한하고, 민감한 데이터는 반드시 암호화해 보관해야 한다고 강조했다. 운영 기록을 남기는 감사(审计) 로그를 구축하고, 가상 머신이나 샌드박스 같은 격리된 환경에서 프로그램을 실행하는 것도 권장했다.
국가안전부는 “AI 에이전트는 단순한 디지털 장난감이 아니라 스스로 작업을 수행하고 지속적으로 학습하는 ‘디지털 직원’과 같은 도구”라며 “이용자는 기술을 과도하게 의존하기보다 규정과 보안을 준수하는 범위에서 합리적으로 활용해야 한다”고 밝혔다.
이종실 기자
About The Author
