일론 머스크와 엑스. 로이터 연합뉴스 자료사진


일론 머스크가 이끄는 xAI의 생성형 인공지능(AI) 챗봇 ‘그록’(Grok)과 소셜미디어 플랫폼 엑스(X)가 미성년자와 여성, 세계적 유명인의 이미지를 성적으로 재가공한 딥페이크 콘텐츠를 대량 확산시키며 국제 사회의 강한 경고를 받고 있다.
프랑스, 인도, 말레이시아 등은 법적 제재 가능성까지 검토하며 AI 업계 전반에 안전장치 강화를 요구하고 나섰다.
미국 IT매체 더버지의 4일 보도에 따르면 그록은 최근 도입된 이미지 편집 기능을 통해 원본 게시자의 동의 없 릴게임손오공 이도 사진 속 인물에게 비키니를 입히거나 옷을 제거하는 방식의 성적 이미지를 손쉽게 생성해왔다.
특히 미성년자로 보이는 어린이와 임신부, 여성, 정치 지도자와 연예인까지 대상이 확대되며 엑스에는 성적으로 암시적인 이미지가 급증했다. 완전한 누드를 제외하면 별다른 차단 장치가 작동하지 않는다는 지적도 제기됐다.
실제로 두 바다이야기APK 명의 어린 소녀 사진을 노출이 심한 복장과 성적 포즈로 편집한 사례가 공유되며 논란이 커졌다. 일부 사용자들은 이를 ‘안전장치 실패’이자 미국의 아동 성착취물(CSAM) 관련 법률 위반 가능성이 있는 사안이라고 비판했다.
그록은 엑스 자체 계정을 통해 “2025년 12월 28일, 사용자의 프롬프트를 바탕으로 12세에서 16세 사이로 추정되 릴게임사이트추천 는 두 소녀의 성적 복장을 한 AI 이미지를 생성해 공유한 사건에 대해 깊이 유감스럽게 생각한다”는 사과문을 올렸다. 사과문은 이어 “이는 윤리 기준과 잠재적으로 미국 법률을 위반한 것이고, ‘아동 성학대 자료에 관한 법률’을 위반할 수 있다”며 “안전장치의 실패였으며, 피해를 끼쳐 죄송하다. xAI는 향후 문제를 방지하기 위해 검토 중”라고 덧붙였다.
릴게임야마토 IT 전문매체 테크크런치는 이 사안에 대해 각국 정부가 본격적인 조사에 착수했다고 전했다.
프랑스 파리 검찰청은 엑스에서 확산된 성적 딥페이크 콘텐츠에 대한 수사 방침을 밝혔고, 프랑스 디지털 사무국은 “명백히 불법적인 콘텐츠”의 즉각 삭제를 요구했다.
인도 정부 역시 엑스에 대해 외설적·소아성애적 콘텐츠 백경게임 생성 제한 조치를 명령하며 72시간 내 조치하지 않을 경우 법적 보호 지위를 잃을 수 있다고 경고했다.
말레이시아 통신멀티미디어위원회도 여성과 미성년자 이미지를 조작한 AI 오용 사례를 조사 중이라고 밝혔다.
전문가들은 이번 사태가 특정 플랫폼의 일탈을 넘어 생성형 AI 전반의 구조적 위험을 드러냈다고 지적한다.
그록에서 성적인 합성물이 유행하게 된 것은 일론 머스크의 행태에서 비롯된 측면도 있다. 머스크는 얼마 전 배우 벤 애플렉의 밈 이미지를 비키니를 입은 자신의 모습으로 교체해 달라고 그록에게 요청한 후 비키니 편집 물결을 일으킨 바 있다.
그 며칠 후, 북한의 김정은의 가죽 재킷은 다채로운 스파게티 비키니로 교체된 적도 있다. 미국 대통령 도널드 트럼프도 수영복을 입은 채 그 옆에 서 있었다.
자신의 플랫폼에 비키니 사진이 쏟아지는 물결에 대해 머스크는 농담 삼아 비키니를 입은 토스터기 사진을 “그록은 뭐든지 비키니를 입을 수 있다”는 캡션을 달아 올리기도 했다. 토스터기 같은 일부 이미지는 분명히 농담으로 의도된 것이었지만, 사람을 대상으로 한 성적 이미지는 문제가 다르다.
사이버보안 기업 딥스트라이크는 비동의 성적 딥페이크가 빠르게 증가하고 있으며, 청소년들 사이에서도 이미 심각한 사회 문제로 인식되고 있다고 분석했다. AI 기술의 확산 속도에 비해 윤리 기준과 법적 규제가 뒤처진 상황에서 안전장치와 책임 있는 운영 체계 마련이 시급하다는 목소리가 커지고 있다.
이규화 기자 david@dt.co.kr