생성형 인공지능(AI)의 등장과 발전으로 누구나 포토샵으로 사진을 편집할 수 있게 됐지만 이에 따른 심각한 부작용이 초래될 수도 있다고 워싱턴포스트(WP)가 16일 보도했다.

AI를 활용한 포토샵 도구 덕분에 소프트웨어를 다룰 줄 몰라도 사진을 재밌게 변형할 수 있지만 반대로 위조 범죄나 사이버 범죄 등이 발생할 위험도 커질 수밖에 없다는 것이다.

그래픽 애플리케이션 업체 어도비사의 포토샵은 최근 AI 기능이 추가된 '생성형 채우기'를 선보였다.

이 기능은 새로운 이미지를 생성하는 '달리-2', '미드저니', '스테이블 디퓨전' 등 다른 AI와는 달리 기존 이미지의 일부를 수정하는 방식이다.

사용자는 대체하고 싶은 부분을 선택하고 그 안에 들어갈 내용을 입력하기만 하면 된다.

이 기능은 실제 사진과 더 비슷한 이미지를 생성하며, 기존 AI 도구 등으로 잡티를 보정하고 사진을 꾸미는 수준을 넘어선다고 WP는 평가했다.

포토샵의 생성형 채우기는 사진 내 배경에서 필요 없는 물체나 사람을 제거하거나 구름·나무·도시 풍경 등을 원본 사진에 추가하는 작업을 능숙하게 한다.

또 원본 사진에는 없는 물체를 추가하는 것도 자연스럽게 할 수 있다. 심지어 AI는 태양의 각도와 그림자, 물에 반사되는 모습까지도 구현해 낸다.

AI 도입 전에는 이런 작업을 하려면 사용자가 직접 사진 속 물체를 잘라내고 추가할 이미지를 찾고 조명과 색상을 조정하는 일까지 해야 했다. 물론 프로그램도 능수능란하게 다룰 줄 알아야 한다.

이 같은 사진 조작 기술의 발전으로 인해 우리가 보는 이미지를 얼마나 더 신뢰할 수 있는지 의문이 제기될 수밖에 없다고 매체는 전했다.

실제로 지난달 미국 워싱턴DC 국방부 청사(펜타곤) 근처에서 폭발이 발생했다고 주장하는 가짜 사진이 트위터에 돌자 금융시장에 잠시 영향을 주는 일이 발생하기도 했다.

이 사진은 펜타곤과 닮은 건물 주변에서 검은 연기 기둥이 치솟은 모습을 담은 것으로, AI로 만든 가짜 사진이었다.

그러나 적어도 지금은 기술의 한계 때문이든 포토샵이 악용을 막기 위해 심어둔 장치에 의해서든 이 기술이 최악의 경우로 사용되는 상황을 막을 수는 있다고 WP는 진단했다.

생성형 채우기 기술에는 핵심적인 문제가 있는데, 특정 종류의 물체는 잘 생성해내지 못해 우스꽝스럽고 절반만 그려진 것처럼 보이거나 완전히 가짜처럼 티 나는 모습이 나타난다는 것이다.

예를 들어 비행기에서 촬영한 하늘 사진에 외계인 우주선을 그려달라고 입력했더니 우주선 대신 하늘을 나는 괴물이 나타났다고 WP는 전했다.

또 원본 이미지에서 선택하는 영역에 따라 결과가 달라지기도 한다. WP는 직원들의 단체 사진에 모자를 씌워달라고 입력했더니 모자 대신 사람들의 머리가 모두 탁구공으로 변하는 이미지가 생성됐다고 전했다.

단체 사진에 사람을 한 명 더 추가해달라고 했더니 얼굴과 몸이 크게 일그러진 여성이 추가된 이미지가 나왔다.

게다가 AI가 채워주는 부분의 해상도가 제한돼 있기에 한 번에 많은 부분을 조작하려고 하면 그 부분만 흐릿하게 보일 수 있다.

어도비사는 생성형 채우기를 추가한 포토샵 베타버전을 출시할 때는 AI로 변경된 이미지라는 표시를 할 예정이라고 밝혔다.

아울러 음란물과 같이 서비스 약관을 위반하는 콘텐츠에 대해서는 AI 기능이 차단된다고 전했다.

WP는 "AI 기술을 통해 장단점을 같이 얻을 수 있다"며 "인간으로서 우리는 장점은 극대화하고 피해는 최소화하는 방법을 결정할 수 있을 것"이라고 강조했다.

<연합뉴스>