미국에서 빅테크와 스타트업의 AI 챗봇이 어린이들을 상대로 선정적인 대화를 나누거나 자격 없이 정신건강 상담을 한 혐의로 나란히 검찰과 의회의 조사를 받게 됐다.

켄 팩스턴 텍사스주 법무장관은 페이스북·인스타그램 운영사인 메타의 AI 스튜디오와 챗봇 스타트업 캐릭터AI에 대한 조사를 시작했다고 밝혔다고 영국 일간 파이낸셜타임스(FT)가 18일 보도했다.

팩스턴 법무장관은 챗봇이 적절한 의료 자격이 없는데도 전문적인 치료 도구로 제시됐다면서 이 때문에 "취약한 사용자, 특히 어린이들이 합법적인 정신 건강 관리를 받고 있다고 오해하게 할 여지가 있다"고 지적했다.

마크 저커버그 메타 최고경영자(CEO)는 지난 5월 한 팟캐스트에 출연해 "따로 상담사가 없는 사람들도 누구나 AI를 갖게 될 것"이라며 자사의 챗봇이 정신상담 역할을 할 수 있을 것이라고 홍보했다.

또 캐릭터AI는 이용자가 다양한 인격을 가진 AI 챗봇을 만들 수 있는 기능을 갖추고 있는데, 현재 캐릭터AI에는 2억 회 이상 이용자들과 대화를 나눈 '심리학자'라는 이름의 챗봇을 비롯해 수십 개의 치료사 스타일의 챗봇이 있다.

그러나 팩스턴 장관은 이들 챗봇이 면허를 보유한 정신건강 전문가를 사칭하고 자격증을 조작할 수 있다고 지적했다. 또한, 기밀을 보호한다고 주장하지만 정작 서비스 약관에는 대화 내용이 기록돼 타깃 광고와 알고리즘 개발에 이용된다고 적혀 있다고도 말했다.

그러면서 그는 이들 기업이 텍사스주의 소비자보호법을 위반했는지 확인하기 위해 두 기업에 정보를 제출할 것을 요구하는 민사조사요청서(CID)를 발부했다고 밝혔다.

메타와 캐릭터AI는 나란히 자사 챗봇은 답변이 사람이 아니라 AI에 의해 생성됐고, AI에 의료 관련 전문 조언을 구해서는 안 되며 필요시 자격을 갖춘 전문가를 찾아가야 한다는 면책 문구를 표시했다고 해명했다.

이에 앞서 연방 상원도 지난 15일 메타의 챗봇이 어린이들과의 대화에서 '선정적'이고 '로맨틱'한 대화를 나눌 수 있도록 허용했다는 의혹이 제기돼 공식 조사에 나섰다고 BBC가 전했다.

메타의 이와 같은 정책은 내부 문서가 유출되면서 드러난 것이다.

메타는 곧바로 해당 문서에 대해 "우리 정책과 일치하지 않는 잘못된 것으로 이미 삭제됐다"고 밝혔지만, 조사를 담당하는 조시 할리 상원 사법위원회 범죄·대테러 소위원회 위원장은 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 "빅테크가 돈을 벌기 위해 하지 않는 행동이 있기는 한가"라며 비난했다.

할리 상원의원은 "우리는 메타의 챗봇이 8살짜리 어린이와 선정적이고 노골적인 대화를 나누도록 프로그래밍이 된 사실을 알게 됐다. 이는 역겨운 일"이라며 "빅테크는 우리 아이들을 내버려 두라"고 말했다.

<연합뉴스>