딥페이크(Deepfake) 기술은 사람의 얼굴, 목소리 등 특성을 복제해서 디지털 위조를 할 수 있는 기술이다. 딥페이크 기술은 최근 엄청난 속도로 발전하면서 이에 따른 악의적인 범죄가 많아지는 추세다. 유명 여자 연예인의 얼굴을 합성해 포르노를 만들어거나, 유명 비즈니스맨의 얼굴과 목소리를 합성해 비즈니스 사기를 저지르는 사건이 지속적으로 발생하고 있다.

중국은 딥페이크를 단속하기 위한 강력한 움직임을 보이고 있다. 이번 달 중국은 딥페이크 기술에 해당 대상자의 동의가 있어야 하고 디지털 서명이나 워터마크가 반드시 있어야 한다는 규정을 세웠다. 또한 딥페이크 서비스를 제공하는 업체는 딥페이크 영상이나 이미지에 엮인 "소문을 반박"할 수 있는 방법을 제공해야 한다고 명시했다.

이에 전문가들은 중국의 딥페이크 기술에 대한 통제 노력에 대해 회의와 환영을 표한다.

중국의 딥페이크 기술 통제에 회의감을 표하는 전문가들은 불법적으로 딥페이크 기술 악용자들은 가장 잡기 어려운 경향이 있다고 생각한다. 이들은 익명으로 활동하고, 국가 경계가 불분명한 온라인 플랫폼을 통해 합성물을 공유하며, 신속하게 대응하기 때문이라는 것이다. 또한, 일부 기술자들은 딥페이크 기술과 딥페이크를 구별하는 기술 사이의 경쟁이 있는데 기술적으로 딥페이크를 구별하는 기술이 압도하기 전에는 법적 제한이나 조치가 의미가 없다는 입장이다. 또한, 중국의 딥페이크 기술 통제는 대상자에 대한 '보호조치' 보다는 '사회적 통제' 목적이 짙다는 평도 높다.

반면 중국의 딥페이크 기술 통제에 환영하는 전문가들은 중국 정부가 정한대로 이행하기만 하면 다른 정부도 딥페이크 기술을 지원하는 기계 학습 방법에 영향을 줄 수 있다고 본다. 중국의 선제적인 움직임에 환영하는 한 전문가는 "딥페이크 기술을 통제한 선례가 제한적이어서 각 정부의 국회의원들이 기준으로 삼을 사례를 찾는데 어려움이 있다. 이번 중국의 사례를 분명 도움이 될 것"이라고 했다.

피츠버그 대학교에서 공동 AI 연구소 '라비트 도탄(Ravit Dotan) 연구원은 "우리는 (딥페이크 기술에 대한) 법이 제정될 것을 안다. 그러나 그것이 무엇인지 아직 알지 못하기 때문에 예측 불가능한 상태다"고 했다. 법적 방향성이 없어 기술 개발 방향과 한계를 정하는데 어려움이 있다는 것이 현장의 소리이기도 하다.

미국의 국토안보부는 딥페이크 기술이 사이버 괴롭힘, 협박, 주식 조작, 정치적 선동 등 다양한 형태로 문제를 일으키고 있다고 밝혔다. 일부 전문가들은 온라인 콘텐츠의 90%가 몇 년 안에 딥페이크 기술로 채워질 것이라는 과격한 전망을 내놓기도 한다. 유로폴(Europol)은 "딥페이크의 양이 증가함에 따라 시민들은 더 이상 현실을 구분할 수 없고, 어떤 정보 출처가 신뢰할 수 있는지에 대해 사회적 혼란을 겪을 수 있다"고 경고한다.

딥페이크 기술을 조사하기 위해 TF팀을 구성하려는 미국의 시도는 중단된 상태다. 뉴욕주 민주당원 '클라크(Yvette D. Clarke)' 하원의원은 2019년과 2021년에 착취를 책임법에 따라 착취를 유지함으로써 모든 사람을 거짓 외모로부터 보호하는 법안을 제안했지만 아직 표결에 이르지 못했습니다. 그녀는 올해 법안을 다시 도입할 계획이라고 말했다.

클라크 하원의원은 "딥페이크가 어떻게 무기화되고 파괴적일 수 있는지 우리 시민사회는 인식하고 있다. 우리는 기술 산업, 해당 분야의 소비자 보호에 대한 기대치의 기준선을 설정할 수 있기를 원한다"고 했다. 더불어 중국이 설정한 가이드라인을 따라가기 보다는 미국이 자체 기준을 설정하는데 적극적이어야 한다고 덧붙였다.

김예나 기자 givenewsmedia@gmail.com