최근 SNS상에서 큰 논란이 되었던 인공지능 그록(Grok)의 무분별한 이미지 생성 기능이 드디어 강력한 제한 조치에 들어갔어요. 딥페이크로 인한 피해가 확산되자 머스크의 xAI가 강도 높은 규제책을 내놓았는데, 어떤 점이 달라졌는지 그 핵심 내용을 빠르게 정리해 드릴게요.
딥페이크 논란에 결국 무릎 꿇은 그록의 새로운 제한 사항
일론 머스크의 인공지능 기업인 xAI가 소셜 미디어 X에서 사용되는 AI 챗봇 그록의 이미지 생성 기능을 대폭 수정하기로 했어요. 그동안 그록을 이용해 실존 인물의 부적절한 이미지를 너무 쉽게 만들 수 있다는 비판이 끊이지 않았거든요. 이제는 사용자가 프롬프트를 입력해도 실존 인물의 성적인 이미지를 생성할 수 없도록 기술적인 장치를 마련했다고 하더라고요. 특히 비키니 같은 노출이 있는 옷을 입은 실존 인물의 이미지를 편집하는 기능도 전면 금지되었다는 점이 핵심이에요.
캘리포니아 법무장관은 왜 xAI 수사에 착수했을까?
이번 조치는 정치권과 규제 당국의 강력한 압박이 있은 직후에 발표되었어요. 캘리포니아 법무장관인 롭 본타는 xAI가 동의 없는 성적 딥페이크 이미지를 대규모로 생산할 수 있는 환경을 제공했다며 공식적인 수사에 착수했다고 밝혔거든요. 캘리포니아 주지사인 개빈 뉴섬 역시 머스크의 행보를 비판하며 아이들의 이미지를 도용하는 등 악의적인 딥페이크가 퍼지는 것을 ‘비열한 행위’라고 강하게 질타했어요. 이런 법적 압박이 결국 xAI의 빠른 정책 변화를 이끌어낸 것으로 보여요.
실존 인물의 노출 이미지 생성이 완벽하게 차단된 배경
xAI는 공식 계정을 통해 모든 사용자에게 이 제한이 적용된다고 발표했어요. 유료 구독자라고 하더라도 예외는 없다고 하더라고요. 사실 그동안 그록은 다른 AI 도구들에 비해 규제가 느슨하다는 평가를 받아왔어요. 텍스트 입력만으로도 실존 인물의 합성 영상을 너무나 사실적으로 만들어낼 수 있었기 때문이죠. 하지만 이번에 도입된 기술적 조치로 인해 앞으로는 유명인이나 일반인의 사진을 도용해 부적절한 편집을 하는 것이 불가능해질 전망이에요.
유료 구독자에게만 이미지 편집 권한을 부여하는 이유
보안 강화와 더불어 xAI는 이미지 생성 및 편집 기능을 오직 유료 구독자만 사용할 수 있도록 제한했어요. 이는 무분별한 사용을 억제하고 책임감 있는 사용 환경을 만들기 위한 조치라고 설명했더라고요. 무료 사용자들의 접근을 막음으로써 혹시 모를 오남용의 가능성을 한 단계 더 차단하겠다는 의도로 풀이돼요. 머스크는 이전에도 그록의 이미지 필터링 기준을 강화하겠다는 의지를 보였는데, 이번 유료화 정책도 그 일환인 셈이죠.
전 세계 국가들이 그록과 X를 차단하려는 움직임
이번 사태는 미국만의 문제가 아니었어요. 이미 인도, 말레이시아, 인도네시아 등 여러 국가에서 그록에 대한 수사를 발표하거나 일시적인 사용 금지 조치를 내렸거든요. 유럽 연합(EU) 역시 딥페이크 확산 방지를 위해 xAI에 엄격한 기준을 요구하고 있는 상황이에요. 특히 미국 민주당 상원 의원들은 애플과 구글에 서한을 보내 부적절한 콘텐츠 생성을 방지하는 대책이 마련될 때까지 앱스토어에서 X 앱을 삭제하라고 강력히 요청하기도 했어요.
머스크가 주장하는 성인용 콘텐츠 허용의 진실은 무엇일까?
재미있는 점은 머스크가 여전히 ‘표현의 자유’를 강조하고 있다는 거예요. 그는 자신의 X 계정을 통해 가상의 인물에 대한 상반신 노출 같은 성인용 콘텐츠(NSFW)는 여전히 허용될 것이라고 언급했어요. 실존 인물이 아닌 가상 인물의 경우 R등급 영화 수준의 표현은 가능하다는 논리죠. 다만 각 나라의 법률에 따라 그 기준은 다르게 적용될 수 있다고 덧붙였어요. 결국 실존 인물 보호와 창작의 자유 사이에서 아슬아슬한 줄타기를 계속하겠다는 전략으로 보여요.
이번 xAI의 조치가 딥페이크로 고통받는 많은 분들에게 조금이나마 위안이 되었으면 좋겠어요. AI 기술이 발전하는 만큼 그에 따르는 책임과 안전장치도 함께 견고해져야 한다는 것을 다시 한번 느끼게 된 사건이었어요. 여러분은 이번 머스크의 결정에 대해 어떻게 생각하시나요? 안전한 디지털 환경을 위해 우리 모두가 관심을 가져야 할 때인 것 같아요.
이어서 보면 좋은 글
#머스크 #xAI #Grok #딥페이크차단 #AI규제 #일론머스크 #인공지능뉴스 #X안전정책 #디지털보안 #AI이미지생성