챗GPT를 비롯한 인공지능(AI)과 기술 발달로 사이버 범죄 및 보안 우려가 커지고 있다고 일간 워싱턴포스트(WP)가 11일 보도했다.

사이버보안 업체 Z스케일러의 한 임원은 올해 초 회사 최고경영자(CEO)로 보이는 인물로부터 걸려 온 전화를 받았다.

휴대전화에는 CEO의 사진이 떴고 음성도 실제와 비슷했는데, CEO는 통화 후 암호화된 왓츠앱 메신저를 통해 “여행 중인데 네트워크 사정이 안 좋아 메시지로 소통하자”면서 자금 이체를 요구했다.

하지만 업무 과정에서 다른 직원이 이상한 눈치를 채고 조사한 끝에 범죄자들이 CEO의 공개 발언에서 따온 음성을 바탕으로 사기 행각을 벌이려 한 것을 알게 됐다.

지난해 47% 급증한 피싱 공격의 배경에는 이러한 AI 기술이 있다는 게 Z스케일러 설명이다.

범죄 표적 언어에 대한 번역 수준이 개선되고 허위 정보를 적발하기 어려워지는 점도 어려움으로 꼽힌다.

WP는 “전문가와 당국자들은 이러한 현상이 이제 막 시작일 뿐이라고 두려워한다”면서 범죄자들이 AI를 활용해 기업 내부망에 침입할 수 있는 새로운 소프트웨어를 개발하고 정상적으로 보이는 방식으로 데이터들을 빼갈 수 있다고 설명했다.

한 보안업계 관계자는 AI 활용 가능성과 관련해 “(챗GPT 등 챗봇에) 시스템 침투 방법을 알려 달라고 하면 10가지 정도 경로를 내놓을 것”이라면서 “완전히 다른 세계가 될 것”이라고 봤다.

보안업체 포스포인트의 한 전문가는 챗GPT를 활용해 실제 공격 프로그램을 만든 적이 있다면서, 자신이 코드를 직접 짜지 않고도 공격 대상의 하드디스크 드라이브를 뒤져 문서를 빼 오도록 프로그램을 만들 수 있었다고 말하기도 했다.

게다가 사이버 보안은 성격상 비대칭적인 싸움이라는 것도 문제다.

지키는 쪽에서는 구식이 된 인터넷 프로토콜 구성과 누적된 프로그램 오류, 경제적·규제적 실패 등에 직면해 있으며, 아예 어떤 구식 프로그램이나 기기를 보유하고 있는지 모르는 경우도 많다는 것이다.

또 안면인식 등과 같은 보안기술의 허점을 이용하기도 하며, 중국에서는 절도범들이 피해자 사진을 바탕으로 만든 영상으로 세무 당국의 안면 인식 프로그램을 통과해 7,700만달러를 빼간 경우도 있는 것으로 전해졌다.

다만 사이버 보안 업계에서도 AI를 활용해 대응에 나서고 있으며, 우크라이나 전쟁에서의 사이버전도 우려만큼 재앙적인 상황은 아니라는 평가가 나온다고 WP는 설명했다.

한편 미국의 미디어 재벌 배리 딜러는 출판업계가 저작권법을 활용해 통제력을 행사하지 못하면 AI 사용 확산이 저널리즘에 ‘파괴적’ 영향을 끼칠 수 있다고 우려했다고 일간 파이낸셜타임스(FT)는 덧붙였다.