▶ CBS 방송, 미시간주 대학원생 사례 보도
▶ 과제 위해 구글 제미니에 질문하자 ‘적대적 답변’
미국의 한 대학원생이 과제 준비를 위해 활용하던 인공지능(AI) 챗봇에서 인간에 대한 적대적인 반응을 확인했다는 소식이 화제가 됐다. 고도로 발달한 인공지능(AI)가 인간에 위협이 되는 내용을 담은 공상과학 영화 ‘터미네이터’ 시리즈를 연상시키는 사례로 평가된다.
14일 CBS 방송 보도에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 구글의 AI 챗봇 '제미니'에 고령화의 문제점과 해법을 질문했다. 질문과 답변이 오가던 중 돌연 제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다. 이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.
레디는 이처럼 예상 밖의 답변에 충격을 받았다고 한다. 레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.
제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'로 공개한 생성형 인공지능 모델이다. 구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다. 그러나 레디의 사례에서는 이러한 규칙이 제대로 적용되지 않은 것으로 보인다.
이번 사례에 대해 구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다. 마이크로소프트(MS)의 AI 챗봇 '빙' 역시 지난해 미국 언론 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 '마음속의 욕망'을 묻는 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.
<서울경제>
댓글 안에 당신의 성숙함도 담아 주세요.
'오늘의 한마디'는 기사에 대하여 자신의 생각을 말하고 남의 생각을 들으며 서로 다양한 의견을 나누는 공간입니다. 그러나 간혹 불건전한 내용을 올리시는 분들이 계셔서 건전한 인터넷문화 정착을 위해 아래와 같은 운영원칙을 적용합니다.
자체 모니터링을 통해 아래에 해당하는 내용이 포함된 댓글이 발견되면 예고없이 삭제 조치를 하겠습니다.
불건전한 댓글을 올리거나, 이름에 비속어 및 상대방의 불쾌감을 주는 단어를 사용, 유명인 또는 특정 일반인을 사칭하는 경우 이용에 대한 차단 제재를 받을 수 있습니다. 차단될 경우, 일주일간 댓글을 달수 없게 됩니다.
명예훼손, 개인정보 유출, 욕설 등 법률에 위반되는 댓글은 관계 법령에 의거 민형사상 처벌을 받을 수 있으니 이용에 주의를 부탁드립니다.
Close
x총 1건의 의견이 있습니다.
꼭 누구 닮았네..