‘상하이저널 제2기 비즈니스 아카데미’가 김성욱 법무법인 태평양 상하이 대표를 초청해 “AI시대 꼭 알아야 할 법률”에 대한 강연을 개최했다. 지난 28일 길상호텔 2층에서 열린 강연에서 김성욱 변호사는 ‘중국 데이터3법과 개인정보보호의 적용 범위’, ‘인공지능과 지식재산권: AI를 발명자로 인정할 수 있는지에 대한 국가별 판결결과’, ‘AI가 작성한 소장의 유효성과 과실 책임 소재’ 등에 대해 설명했다. 참석자들은 AI 의존도가 심화되고 있는 시대에 어떻게 변화에 적응할 것인가에 대해 생각해보는 시간을 가졌다.
김 변호사는 2002년 이후 다국적 기업들의 한국진출 업무, 한국기업의 해외진출 업무, 프로젝트 파이낸싱, 파생금융상품 등의 업무를 수행해 왔다. 미국 유학을 통해 미국법을, 베이징 유학을 통해 중국법을 공부한 후 상하이에서 기업법무 자문을 제공하고 있다. 최근에는 온라인 게임, 통신, 미디어, 엔터테인먼트 산업을 비롯 4차산업혁명 분야와 관련해 헬스케어, 바이오테크, 전기자동차, 빅데이터와 사이버보안, 개인정보보호 산업에 대한 자문을 활발하게 진행하고 있다. AI시대 꼭 알아야 할 법률에 대한 자세한 내용을 1문 1답을 통해 알아본다.
[사진= 김성욱 변호사(법무법인 태평양 상하이 대표)]
1. 중국 데이터 3법(개인정보보호법·데이터안전법·네트워크안전법)이 한국 기업의 중국 내 사업 운영에 어떤 영향을 미치나? 실제 영향(피해)를 입은 사례가 있는지 궁금하다.
-인공지능시대에 데이터는 과거 산업혁명시대의 원유(석유)와도 같은 역할을 한다. 데이터를 학습해야 인공지능이 제대로 작동하기 때문이다. 중국정부는 데이터를 주권의 차원에서 바라보고 있다. 데이터 3법을 위반할 경우 시정명령, 불법소득 몰수, 5,000만 위안 이하 또는 직전연도 매출액 5% 이하 과징금, 영업집조 말소 등의 강력한 처벌이 가능하다. 따라서, 한국기업이 중국에서 데이터(특히 개인정보)를 수집하고, 저장하고, 가공하고, 전송함에 있어 중국 데이터 3법을 유의하여야 할 필요가 있게 됐다. 한국기업이 중국에서 고객정보가 유출되어 문제된 사례도 있다.
2, 중국 데이터 3법 관련해서 우리 기업들의 법적 리스크는 어떻게 관리해야 하며, 특히 중요한 몇 가지 조항을 짚어 준다면.
-개인정보를 수집할 때에는 반드시 명백하고 알기 쉬운 언어로 진실하고, 정확하며, 완전하게 수집목적, 사용 범위 등을 고지해야 하고, 필요한 최소한의 정보만을 수집해야 한다. 예를 들어 제품 또는 서비스와 관련없는 종교, 가족관계 등 정보를 수집하면 중국법 위반이 될 수 있다. 개인정보주체로부터 개인정보수집에 관한 동의를 받는 경우에도 신분증번호, 신체건강에 관한 정보 등 소위 민감정보를 수집하고자 하는 경우 또는 한국 본사 등 중국 밖의 해외로 전송하고자 하는 경우에는, 일반적인 동의 외에 추가로 별도의 체크박스 등을 마련하여 추가 동의를 받아야 한다는 점도 유의할 필요가 있다. 개인정보를 해외로 이전할 때 영향평가, 안전 평가 등을 받아야 하는 경우에 해당하는지를 추가로 점검할 필요가 있다. 아동정보의 경우 좀더 엄격한 법률의 규제를 받기 때문에 14세 미만 아동의 정보는 가급적 수집하지 않는 것이 바람직하다.
3. 생성형 AI가 창작한 콘텐츠의 지식재산권 귀속 문제에서 중국과 한국의 법제도 차이는 무엇이며, AI 툴을 활용한 문서·디자인 작업 시 법적 분쟁을 예방하기 위해 알아 둬야 할 내용이 있을까?
-한국과 중국 모두 AI 생성물의 저작권을 인정하지 않는다. 저작권으로 인정받기 위해서는 인간의 창의성 기술, 노력의 결과로써 만든 고유한 창작물만 저작권법상 저작물로서 보호가 가능하다. AI 또는 생성형 AI가 학습한 원저작물에 대해서는 저작권 침해 문제가 제기될 수 있다. 미국의 사례이기는 하지만, ‘뉴욕타임스’가 자사의 기사들을 학습에 사용한 오픈AI(ChatGPT)와 마이크로소프트를 상대로 저작권 침해소송을 제기했다. AI를 활용하여 저작권이 있는 문서나 디자인을 무단으로 사용하여 이를 변형할 경우 저작권 침해가 될 가능성도 있다. 다만 AI를 활용한 생성물의 저작권 침해에 대해서는 명확한 법규가 있지는 않다.
4. 실시간 빅데이터 분석을 활용한 증권 AI 서비스(예: 라씨 매매비서4)가 확산되면서 발생하는 허위정보·시장조작 우려가 나오고 있다. 이런 경우 손실에 대한 법률적 책임은 누가 져야 하는지, 중국과 한국의 금융감독 당국이 이에 대응하기 위한 방안이나 제도가 있는지.
-대부분 금융 AI서비스에는 면책약관이 포함되어 있다. 즉, 금융 AI서비스를 사용하더라도 궁극적인 투자의 책임은 투자자에게 있다는 내용이고 이러한 약관에 동의하지 아니하면 서비스 자체를 사용할 수 없도록 하는 경우이다. 다만, 약관자체가 현저하게 불공정한 경우 한국에서는 공정거래위원회에 고발할 수 있을 것이고, 일반적인 허위정보나 시장조작의 경우 금융감독원의 규제가 가능할 것이다.금융분야에서도 AI의 hallucination 문제, 법적 책임 문제 등이 논의되고 있다.
5. AI 규제가 혁신 속도에 뒤처지는 ‘규제 공백’ 문제가 있다. 중국에서 이를 해결하기 위해 중국정부가 발표한(예고한) 인공지능 관련 새로운 법규가 있는지.
2023년 7월 중국 국가인터넷정보판공실(国家互联网信息办公室, Cyberspace Administration of China) 등 7개 부서가 발표한 생성형 AI 서비스 관리 임시 조치(이하 ‘조치’)에서 생성형 AI 서비스의 제공 및 사용은 지식재산권, 기업 윤리를 존중하고 영업 비밀을 유지해야 한다고 규정했다. 주요 내용은 다음과 같다.
(1) 사회주의 핵심 가치관을 견지하고 국가 정권의 전복, 사회주의제도의 전복, 국가의 안전과 이익을 해치고 국가이미지를 손상시키고 분단국가를 선동하며 국가의 통일과 사회안정을 파괴하고 테러리즘, 극단주의를 선전하며 민족혐오, 민족차별, 폭력, 외설 및 허위 유해 정보와 같은 법률 및 행정 법규에서 금지하는 내용을 생성해서는 안 됨.
(2) 알고리즘 설계, 훈련 데이터 선택, 모델 생성 및 최적화, 서비스 제공 등의 과정에서 민족, 신념, 국가, 지역, 성별, 연령, 직업 및 건강과 같은 차별을 방지하기 위한 효과적인 조치를 취해야 함
(3) 지적 재산권, 기업 윤리를 존중하고 영업 비밀을 유지하며 알고리즘, 데이터, 플랫폼 및 기타 이점을 활용하여 독점 및 부정 경쟁을 구현해서는 안 됨
(4) 타인의 정당한 권익을 존중하고 신체적, 정신적 건강을 침해해서는 안됨
(5) 생성형 AI 서비스 제공자는 학습 데이터 처리 활동 수행 시 합법적 출처의 데이터를 사용해야 하며, 타인의 지식재산권을 침해해서는 안 됨
중국국가인터넷정보판공실·공업정보화부·공안부·국가광전총국 등 4개 부처는 ‘AI 생성 합성 콘텐츠 표시 방법’을 발표하고, 콘텐츠 제작 및 유통 과정에서 AI 사용 여부를 명확히 표시하도록 의무화했다. 해당 규정은 오는 9월 1일부터 적용된다.
AI가 생성한 영상이 포함된 콘텐츠는 문자·소리·그래픽 등의 방식으로 이를 명확히 알릴 수 있도록 해야 하며, 콘텐츠 파일 데이터에도 기술적 조치를 적용해 AI 제작 여부를 기록(예: AIGC표시)해야 한다.
고수미 기자
About The Author
