日, 생성형 AI로 랜섬웨어 만든 20대에 '첫 유죄 판결'

일본에서 생성형 AI를 이용해 컴퓨터 바이러스인 랜섬웨어를 만든 행위에 20대 남성에 유죄 판결이 내려졌다. 일본 내 생성형 AI를 악용한 사건에 유죄 판결이 내려진 것은 이번 사건이 최초다.

도쿄지방법원(가와세 다카시 판사)은 25일 '부정지령(不正指令) 전자적 기록 취득' 등 혐의로 기소된 무직 남성(25)에 대해 징역 3년, 집행유예 4년(구형 징역 4년)의 유죄 판결을 선고했다.
판결문에 따르면, 남성은 지난해 3월 31일 가와사키시의 자택에서 컴퓨터와 스마트폰을 이용해 생성형 AI를 통해 입수한 악성 프로그램의 설계도(소스코드)를 바탕으로 랜섬웨어(몸값 요구형 바이러스)와 유사한 컴퓨터 바이러스를 제작했다. 이 외에도 타인을 사칭해 스마트폰 통신카드를 가로채는 등의 범행을 저지른 것으로 확인됐다.

재판부는 "돈을 벌기 위해 바이러스를 제작하고, 자기중심적인 범행으로 형사 책임이 무겁다"고 비난했다. 다만 남성이 기소 사실을 인정하고 반성하는 태도를 보이는 점 등을 고려해 집행유예를 선고했다.
검찰 측의 첫 진술에 따르면, 피고인은 '챗GPT'를 이용해 특정 파일을 암호화해 사용 불가능하게 만들고 '비트코인'의 지불을 요구하는 문장을 만드는 프로그램의 소스코드를 작성했다. 이후 앞선 두 사항을 합해 랜섬웨어를 완성한 것으로 전해졌다.

지난 1일 피고인 신문에서 바이러스 완성까지 걸린 기간을 '한 달 정도'라고 설명하며, IT에 대한 지식이 없어 '생성 AI가 없었다면 만들지 못했을 것'이라고 말했다. 변호인이 "쉬웠느냐"고 묻자 "그렇다"고 답한 것으로 알려졌다. 검찰은 피고인이 통신카드 사기 사건으로 체포되지 않았다면 범죄에 이용됐을 가능성이 있다고 언급했다.

보안회사 '미쓰이물산 시큐어디렉션'(도쿄)의 수석 악성코드 분석 기술자 요시카와 타카시에 따르면, 생성 AI에는 불법적인 정보를 대답하지 않도록 제한이 걸려 있지만, 인터넷에는 제한을 회피하는 정보도 있다. 피고인 역시 피고인 신문에서 제한을 해제하는 방법을 알아내 사용했다고 밝혔다"고 말했다.

이어 요시카와 수석 기술자는 "생성 AI가 악용되면 지식이 없어도 범죄에 사용할 수 있는 정보를 얻을 수 있다"며 "정상적인 이용에 영향을 미치지 않도록 염두에 두면서도 악용을 막기 위한 대책이 시급하다"고 말했다.


편슬기 글로벌이코노믹 기자 pyeonhaeyo@g-enews.com