AI를 악용한 ‘도플갱어 마케팅’이 결국 칼을 맞았다.
8일 지우파이신문(九派新闻)에 따르면 중국판 틱톡인 더우인(抖音) 그룹 공식 계정에서 “올해 1분기 위둥라이(于东来)의 목소리와 얼굴을 AI로 모방해 상품을 홍보하는 계정이 대량으로 등장했다”고 밝혔다. 문제의 계정들은 무려 1000여 개. 기업 권리를 침해하고 소비자를 오도한 해당 계정들은 모두 차단됐다. 조사 결과 푸젠성 시장감독국은 관련 기업의 불법 수익을 몰수하고 벌금 15만 위안을 부과했다.
지난 2일, 더우인 전자상거래 안전·신뢰 센터는 AI 콘텐츠 오남용을 강력히 단속하겠다는 공지를 내고, 위반 계정과 영상을 잇따라 삭제·퇴출했다. 발표에 따르면 일부 상인과 인플루언서가 AI를 이용해 가짜 상품 전시 화면을 꾸미거나 기능을 과장해 소비자를 속였고, 유명인·전문가의 가상 인물을 만들어 상품을 홍보하는 방식까지 등장했다. 심지어 상품 페이지와 라이브 방송에서 AI가 지어낸 체험담과 후기를 퍼뜨려 허위 입소문을 조작하는 사례도 적발됐다. 플랫폼은 “AI는 합법적이고 규범적으로 활용돼야 하며, 잘못된 사용은 엄중히 처벌된다”고 경고했다.
가장 심각한 것은 AI로 상식을 벗어나는 내용을 생성, 이를 제품 판매로 연결하는 행위였다. 예를 들어, 한 방송에서는 AI가 생성한 ‘고추 대풍년’ 장면을 내보냈는데, 고추의 수량·분포·생장 모습이 실제 농업과 전혀 맞지 않았다. 진행자는 여기에 더해 종묘의 생산량을 부풀려 말하며 소비자를 현혹했고, 결국 시청자들은 잘못된 정보를 믿고 주문을 하는 경우가 많았다.
AI가 기술 진보의 상징인 동시에 불법 세력의 ‘새로운 무기’가 되고 있음을 보여주는 사례다. 더우인은 “AI 오남용을 집중 단속 중이며, 위법 콘텐츠는 이용자와 함께 감시하겠다”고 강조했다.
이민정 기자
About The Author
