[글로벌-이슈 24] 소녀가 수영장서 노는 동영상을 소아성애자에 자동추천 ‘위험한 유튜브’

10세 소녀가 친구와 수영복에서 수영장에서 놀고 있는 동영상을 YouTube에 기고한 결과 단시간에 40만 번 이상 재생되면서 이를 올린 어머니를 놀라게 했다. 미국 뉴욕타임스는 현지시간 3일 해맑은 아이의 동영상을 YouTube가 소아성애 성향의 한 이용자에게 권하는 동영상으로서 표시하는 문제를 소개했다.

이 기능은 기계학습 알고리즘을 채용하는 사용자가 동영상을 재생하면, 그 아래에 ‘다음 동영상’으로 동영상을 본 누리꾼이 좋아 보이는 동영상의 목록을 표시한다는 것. YouTube에 따르면 이 추천기능에 의해서 재생되는 동영상은 재생되는 동영상 전체의 약 70%를 차지한다고 한다.
■ 점점 과격해지는 ‘다음 동영상’

뉴욕타임스는 ‘다음 동영상’으로 표시되는 동영상이 단계적으로 과격하게 되어 간다는 연구자의 지적을 소개하고 있다(이 현상은 ‘이상한 나라의 앨리스’에서 앨리스가 떨어진 구멍에 비유해 ‘토끼구멍 이펙트’라고 불린다). 예를 들면 자전거 동영상을 보고 ‘다음 동영상’으로 몇 개나 관련 동영상을 재생하고 있으면, 자전거 경주에서의 쇼킹한 사고의 동영상을 권할 수 있게 된다. 성적인 동영상의 경우 추천은 점점 기묘하고 극단적인 방향으로 진행되어 가며 피사체는 점점 젊어져 간다.

연구에서는 섹스에 대해 말하는 여성의 동영상을 재생하자 속옷 차림의 젊은 여성의 동영상을 추천받았고, 사춘기 여성이 아동복을 입고 포즈를 취하고 있는 동영상을 추천받았고, 그 앞엔 오로지 옷을 조금 입은 아이의 동영상을 추천받았다.

추천받는 아이의 동영상의 상당수는 성적인 내용을 의도한 것은 아니고, 아마 가족 내에서 즐기는 홈 무비적인 감각으로 부모가 투고한 것이지만 YouTube의 알고리즘은 특정의 취향을 가지는 유저의 액티비티등에서 배우는 것으로, 그러한 동영상을 다른 해석으로 추천하게 되었다고 여겨진다.

■ YouTube는 대책을 설명하지만…

YouTube는 뉴욕타임스에 대해 ‘토끼구멍 이펙트’를 부정했지만 “아이에 관해서는 추천 스탠스를 보다 보수적으로 해 나가고 싶다”라고 말했다.
YouTube는 아이의 안전이라고 하는 Web 페이지에서 “미성년자의 마음과 몸을 위험에 빠뜨리는 콘텐츠는 허가되고 있지 않다”고 노래하고 있지만, 단지 패밀리 비디오에서도, 아이가 수영복차림이나 갈아입고 있거나 하는 콘텐츠가 소아 성애자에 대한 ‘다음 동영상’으로서 정리돼 표시되면 미성년자를 위험에 빠뜨릴 수 있다.

이 보도에 대해 YouTube는 이날 공식 블로그에서 이 같은 문제에 대처하도록 기계학습 시스템 개선 등을 추진하고 있다고 설명했다.

예를 들면, 보호자에 의한 감독이 없는 미성년자(국가나 지역에 따라 정의는 다르다)에 의한 라이브 송신의 금지, 미성년자가 비치고 있는 동영상에 대한 코멘트 기능의 무효화, 미성년자가 찍혀 있어 악용될 가능성이 있는 동영상의 ‘다음 동영상’으로의 표시의 제한 등이다.

■ YouTube 코멘트 기능 배제는 ‘글쎄’

코멘트 기능을 무효화는 1월부터 실시되고 있다. 이것은 아이가 비춰지는 패밀리 동영상의 코멘트 란에 소아성애자를 위한 동영상의 링크를 투고하는 행위가 보고된 것을 받아 실시했다.

뉴욕타임스는 문제에 대처하기 위해서는 미성년자가 비춰지고 있는 동영상을 ‘다음 동영상’으로부터 완전히 배제할 필요가 있다고 하고 있지만, YouTube는 이에 대해 ‘다음 동영상’에서 배제하면 동영상으로의 액세스가 격감해 크리에이터를 손상시키게 되므로 완전 배제할 수는 없다고 밝혔다.


김경수 글로벌이코노믹 편집위원 ggs077@g-enews.com