누디 파이 사용법 물었던 이유가... ai 옷 제거 때문이였다고?

미국의 한 딥페이크 애플리케이션(앱)과 웹 사이트에 이용자가 폭증했다. 해당 사이트는 AI를 사용해 옷을 벗기는 딥페이크 웹 사이트다. 딥페이크는 딥러닝과 페이크(fake)의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지 혹은 영상을 말한다.

지난 10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 한 달 동안에만 2400만명이 AI를 사용해 '옷을 벗기는' 딥페이크 웹사이트를 방문했다고 전했다. 그래피카에 따르면 소셜미디어(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다고. 

해당 사이트는 옷을 입고 있는 사람의 사진을 올리면 사람이 옷을 벗고 있는 것처럼 조작한 이미지를 띄워준다. 사진 속 인물 대부분은 여성이다. 

보도에 따르면 유명인사는 물론이고 직장 동료나 같은 학교의 동급생, 지하철에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번만에 사진 속 인물의 옷을 제거할 수 있다고 설명했다. 조사 대상 사이트 중 한 곳에서는 아예 "원하는 여성의 옷을 벗기라"는 광고를 내기도 해 충격을 더했다.

특히 ai 옷 제거 사이트는 국내 최대 온라인 커뮤니티 디시인사이드에도 버젓이 공유되어 있어 충격을 안기고 있다. 해당 게시물에는 사이트를 이용하기 위한 구체적인 방법도 게재되어 있으며, 서로 질문을 주고 받기도 했다. 해당 게시물은 조회수 10만회를 돌파했으며 빠르게 퍼저나가는 것으로 확인됐다.

AI 기술이 발전하면서 수년 전부터 우려가 커졌던 딥페이크 성착취물의 맥락에서 바라본다면 각종 소셜네트워크 서비스를 활용하는 이들이 많아지면서 자신의 사진이 누군가로부터 '누드화' 대상으로 쓰일 수도 있어 우려의 목소리가 커지고 있다.

IT 플랫폼 기업들도 이 같은 범죄의 확산을 차단하려고 나서고 있지만 역부족인 현실이다. 구글도 이 같은 문제에 대해 성적으로 노골적인 콘텐츠는 허용하지 않고 있다고 밝혔고. 틱톡은 관련 키워드를 차단하고 있다고 밝혔다.

김해인 기자 khi@dailycc.net