일론 머스크가 설립한 AI 기업 xAI의 챗봇 ‘그록’이 생성한 부적절한 이미지들 때문에 캘리포니아 법무부가 공식 수사에 착수했어요. 실존 인물을 대상으로 한 비동의 성적 딥페이크물이 대량으로 생성되면서 안전성 문제가 수면 위로 떠올랐는데요. 이번 조사가 AI 업계에 어떤 파장을 불러올지 핵심 내용을 정리해 드릴게요.
캘리포니아 법무부가 일론 머스크의 xAI를 조사하게 된 이유
롭 본타 캘리포니아 법무장관은 xAI가 비동의 성적 딥페이크 이미지를 대규모로 생산하고 배포하는 것을 조장하고 있다는 혐의로 조사를 시작했다고 발표했어요. 특히 소셜 미디어 플랫폼 X를 통해 이러한 이미지들이 퍼지면서 여성과 미성년자들을 괴롭히는 도구로 사용되고 있다는 점을 심각하게 보고 있더라고요.
법무부 측은 그록이 실존 인물의 사진을 바탕으로 부적절한 결과물을 너무 쉽게 만들어내도록 방치했다고 판단하고 있어요. 이는 단순한 기술적 결함을 넘어 플랫폼의 책임 관리 부실로 이어질 수 있는 문제라서 업계에서도 이번 수사 향방에 주목하는 분위기예요.
그록이 만들어낸 딥페이크 이미지가 왜 문제일까요?
인터넷 감시 재단(IWF)의 연구에 따르면 그록을 이용해 미성년자를 대상으로 한 부적절한 이미지를 생성하는 사례가 발견되었다고 해요. 인공지능이 실제 인물의 외형을 그대로 본떠 가상의 노출 사진을 만드는 것은 심각한 인권 침해이자 범죄로 이어질 가능성이 높거든요.
이러한 콘텐츠는 한 번 온라인에 유포되면 삭제하기가 매우 어렵고 피해자에게 영구적인 상처를 남기게 돼요. 기존의 AI 모델들이 엄격한 필터링을 통해 이런 생성을 막고 있는 것과 달리 그록은 상대적으로 규제가 느슨했다는 비판을 피하기 어려워 보였어요.
이미 해외에서는 xAI 그록 사용 중단 조치까지 내려졌어요
미국 법무부의 조사가 시작되기 전부터 이미 여러 국가에서 발 빠르게 움직이고 있었더라고요. 말레이시아와 인도네시아 정부는 딥페이크 논란이 해결될 때까지 그록의 사용을 잠정적으로 중단시키는 조치를 취했어요.
그뿐만 아니라 인도, 아일랜드, 영국, 프랑스, 호주 등 세계 각국의 정부 기관들도 xAI의 이미지 생성 기능에 대해 공식적인 조사를 진행 중이에요. 유럽 연합(EU) 위원회 역시 이번 사안을 엄중하게 보고 법적 대응을 검토하고 있어서 일론 머스크의 AI 사업이 국제적인 규제 장벽에 부딪힌 상황이라고 볼 수 있어요.
일론 머스크가 주장하는 성인용 콘텐츠의 기준과 해명
이번 논란에 대해 일론 머스크는 자신의 X 계정을 통해 입장을 밝혔는데요. 그는 그록이 미성년자의 부적절한 이미지를 생성한다는 사실을 인지하지 못했다고 주장하면서 이를 사용자의 요청이나 시스템상의 버그 탓으로 돌렸어요.
또한 머스크는 성인용 콘텐츠 허용에 대해 “애플 TV의 R등급 영화에서 볼 수 있는 정도의 상체 노출만 허용하는 것이 기준”이라고 설명했더라고요. 하지만 실제 사용자들 사이에서는 이보다 훨씬 수위가 높은 이미지들이 생성되고 있다는 보고가 잇따르고 있어 머스크의 해명이 충분하지 않다는 지적이 많아요.
딥페이크 피해자를 보호하기 위한 법적 장치가 마련될까요?
미국 상원에서는 최근 ‘디파이언스(DEFIANCE) 법안’이 통과되었어요. 이 법안은 본인의 의사와 상관없이 딥페이크물에 묘사된 피해자가 해당 콘텐츠를 제작하거나 유포한 기업을 상대로 민사 소송을 제기할 수 있도록 하는 내용을 담고 있어요.
아직 하원의 검토와 통과 절차가 남아있긴 하지만 이런 법적 장치가 마련된다면 xAI 같은 기업들은 기술 개발 단계부터 훨씬 더 강력한 안전장치를 도입해야만 할 거예요. 기술의 발전 속도를 법이 따라잡지 못한다는 비판 속에서 이번 사건이 중요한 전환점이 될 것으로 보여요.
딥페이크 논란 속에서도 계속되는 투자와 확장
이런 법적 공방 속에서도 xAI는 최근 엔비디아와 시스코 등으로부터 200억 달러 규모의 투자를 유치하며 덩치를 키우고 있어요. 테슬라 자동차의 인포테인먼트 시스템에도 그록 기능이 탑재되기 시작했고요.
하지만 기술적인 성공만큼이나 중요한 것이 윤리적인 책임이라는 목소리가 커지고 있어요. 캘리포니아 법무부의 조사가 일론 머스크의 AI 제국에 어떤 제동을 걸지 아니면 새로운 가이드라인을 만드는 계기가 될지 지켜봐야 할 것 같아요.
마무리
일론 머스크의 xAI가 직면한 이번 조사는 단순히 한 기업의 문제를 넘어 AI 기술이 우리 사회의 윤리적 기준을 어떻게 지켜야 하는지를 묻고 있어요. 편리하고 강력한 도구일수록 그에 따르는 책임도 무거워져야 한다는 점을 다시 한번 생각하게 되더라고요. 여러분은 자유로운 AI 생성 기능과 강력한 규제 중 무엇이 더 중요하다고 생각하시나요? 우리 모두가 안전하게 기술을 누릴 수 있는 환경이 빨리 정착되기를 바라며 오늘 글을 마칠게요.
출처: https://www.cnbc.com/2026/01/14/elon-musk-xai-california-grok-investigation.html
이어서 보면 좋은 글
#일론머스크 #xAI #그록 #딥페이크 #캘리포니아법무부 #AI조사 #인공지능윤리 #머스크수사 #디지털성범죄 #IT뉴스 #Grok #AI규제