[초점] xAI ‘그록-2’, 이미지 생성 ‘수위 조절’ 없어 논란

생성형 인공지능(AI) 시장을 선도하고 있는 오픈AI에 맞서 창업한 일론 머스크의 AI 스타트업 xAI가 최근 출시한 ‘그록-2’ 베타버전이 큰 논란에 휩싸였다.
이미지 생성 능력이 선발주자들의 제품에 비해 강력하다는 평가를 받으면서도 이미지 생성에 관한 ‘수위 조절’이 경쟁 제품들과 비교하면 사실상 없다는 비판이 제기되고 있기 때문이다.

그록-2는 프리미엄 유료 구독자의 경우 머스크가 소유한 소셜미디어 X에 AI 기술로 생성한 이미지를 올릴 수 있는 것이 이전 버전과 가장 크게 달라진 점이다.
그러나 xAI는 정치인과 관련한 이미지나 정치적으로 악용될 가능성이 있는 이미지, 윤리적으로 논란을 빚을 가능성이 있는 이미지 등의 생성에는 제한을 두고 있는 기존 생성형 AI 업체들의 정책과는 다르게 그록-2의 이미지 생성 기능에 사실상 제한을 두지 않고 있다는 지적이다.


14일(이하 현지시각) 미국 경제전문지 포브스 등 외신에 따르면 xAI가 최근 선보인 그록-2로 생성된 가짜 이미지들이 X에 잇따라 올라오면서 큰 반향을 일으키고 있다.

xAI는 이전 버전에 비해 이미지 생성 능력이 향상됐다고 밝히고 있으나 이미지 생성 기술 자체보다는 소재에 사실상 제한이 없다는 점 때문에 네티즌들의 시선을 집중시키고 있다는 지적이다.

오는 11월 대통령선거에서 맞불을 것으로 예상되는 민주당 대선후보로 유력시되는 카멀라 해리스 미국 부통령과 공화당 대선후보로 확정된 도널드 트럼프 전 미국 대통령이나 미국 국민가수로 통하는 테일러 스위프트 같은 유명 인사들을 미국 역사상 최악의 테러 사건이었던 2001년의 9·11 테러 사건과 연관시켜 만든 가짜 이미지들이 소셜미디어 상에서 돌풍을 일으키고 있는 것이 대표적이다.

이밖에 X 총수인 머스크가 9·11 테러가 발생한 미국 뉴욕 맨해튼 세계무역센터를 바라보며 마약을 흡입하는 모습, 조지 W 부시 전 미국 대통령이 집무실에서 코카인을 마시는 장면, 해리스 부통령이 총을 겨누는 사진, 트럼프 전 대통령이 총질을 하는 광경, 유명 어린이 프로그램 세서미스트리트의 주인공 중 하나인 엘모가 테러를 당한 세계무역센터를 배경으로 웃음을 짓고 있는 모습 등 수많은 합성 이미지들이 수위 조절 없는 파격성 때문에 큰 반향을 일으키고 있다.




미국 IT매체 기즈모도는 “그록-2로 만든 합성 이미지들이 큰 인기를 얻고 있는 것은 마이크로소프트의 검색엔진인 빙(Bing)에 포함된 AI 기반 이미지 생성 기능인 빙 이미지 크리에이터로 폭력, 테러, 혐오주의 등과 관련된 콘텐츠가 온라인 상에서 지난해 유통돼 큰 논란을 일으킨 일을 떠올리게 한다”고 지적했다.

기즈모도는 “앞으로 논란이 계속되면 xAI도 자체적인 콘텐츠 규제 방안을 내놓겠지만 아직은 무대책인 것으로 보인다”며 이같이 전했다.

포브스도 “오픈AI의 달리 2, 구글의 제미나이, 미드저니 등 그록-2가 대항마로 겨냥한 이미지 생성형 AI 모델들도 AI 기술에 기반한 이미지 생성 기능을 제공해왔지만 xAI가 최근 내놓은 그록-2 베타버전은 이들에 비해 생성할 수 있는 이미지의 수위 제한이 거의 없는 것으로 보인다”고 지적했다.

포브스는 “뿐만 아니라 그록-2는 저작권이 보호돼 있는 이미지들까지도 합성 과정에서 과감히 활용하는 것으로 나타났다”고 전했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com