▶ 당사자 동의 없이 나체 사진 제작·배포 가능성…성희롱 등 문제 대두
미국에서 인공지능(AI)으로 사진 속 여성의 옷을 벗기는 딥페이크 애플리케이션(앱)과 웹사이트의 이용자가 폭증하면서 악용 우려도 커지고 있다.
10일 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 지난 9월 한 달 동안에만 2천400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다.
딥페이크는 딥러닝과 페이크(fake)의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다.
그래피카에 따르면 올해 초보다 9월에 X(엑스·옛 트위터)와 레딧 등 소셜미디어에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2천400% 늘었다.
딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만들며 사진 속 인물은 대부분 여성이다.
이 같은 앱과 웹사이트의 인기는 불과 몇 년 전보다 훨씬 그럴듯한 이미지를 만들 수 있는 AI의 출시 때문이라고 그래피카는 전했다.
개발자는 오픈 소스 AI를 이용해 무료로 옷 벗기기 앱을 만들 수 있다.
그러나 이들 앱과 웹사이트는 최근 AI 기술 발달이 범죄에 악용될 수 있다는 우려를 심화시키고 있다고 블룸버그는 지적했다.
소셜 미디어에서 당사자의 동의나 통제, 인지 없이 사진을 가져와 나체 사진 등 음란물로 만들고 이를 배포하는 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.
실제로 X에 올라온 한 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다는, 성희롱을 조장하고 있었다.
또 다른 관련 앱은 유튜브에 광고 비용을 지불해 '벌거벗기다'(nudify)라는 단어를 검색하면 가장 먼저 표시됐다.
개인정보 보호 전문가들은 AI 기술의 발전으로 딥페이크 소프트웨어가 더 쉽고 더 효과적으로 만들어졌다고 우려한다.
디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 "일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다"며 "고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다"고 말했다.
구글은 이 같은 문제에 대해 "성적으로 노골적인 콘텐츠는 허용하지 않고 있다"며 "문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다"고 밝혔다.
레딧 대변인도 가짜 음란물의 동의 없는 공유는 금지하고 있으며 조사 결과 여러 도메인을 막았다고 말했다.
틱톡은 '옷 벗기'(undress)라는 키워드를 차단하고 있다고 밝혔다.
<연합뉴스>
댓글 안에 당신의 성숙함도 담아 주세요.
'오늘의 한마디'는 기사에 대하여 자신의 생각을 말하고 남의 생각을 들으며 서로 다양한 의견을 나누는 공간입니다. 그러나 간혹 불건전한 내용을 올리시는 분들이 계셔서 건전한 인터넷문화 정착을 위해 아래와 같은 운영원칙을 적용합니다.
자체 모니터링을 통해 아래에 해당하는 내용이 포함된 댓글이 발견되면 예고없이 삭제 조치를 하겠습니다.
불건전한 댓글을 올리거나, 이름에 비속어 및 상대방의 불쾌감을 주는 단어를 사용, 유명인 또는 특정 일반인을 사칭하는 경우 이용에 대한 차단 제재를 받을 수 있습니다. 차단될 경우, 일주일간 댓글을 달수 없게 됩니다.
명예훼손, 개인정보 유출, 욕설 등 법률에 위반되는 댓글은 관계 법령에 의거 민형사상 처벌을 받을 수 있으니 이용에 주의를 부탁드립니다.
Close
x총 1건의 의견이 있습니다.
인터넷으로 혼란한 세상에 AI 까지 추가되어 인간세상은 더 난장판이 되어간다. 규제와 법규는 따라가지 못하고 기술의 오용은 극도로 발전하여 진짜와 가짜를 구별할수 없는 세상이 왔다. 인류의 멸망은 이러한 혼란에서 부터 시작될것이다.