“AI, 인간 편견·불공정함 담는다⋯사회 다 같이 고민해야”

“AI도 선입견이 있습니다."

윤송이 엔씨(NC)소프트 사장은 4일 엔씨 내부 블로그에 'AI시대에서의 윤리'라는 칼럼을 게재하고 AI 시대에 기술과 인간이 공존하기 위해 다양한 방면에서의 AI의 선입견 같은 윤리 문제를 함께 고민해야 한다고 강조했다.

윤 사장은 말머리에 자율주행 자동차가 핸들을 왼쪽으로 꺾으면 탑승자가 다치고, 오론쪽으로 꺾으면 차 밖의 유치원생들이 다치게 되는 상황인 ‘트롤리 딜레마’를 언급했다. 이 같은 여러 상황에서 맞딱뜨릴 자율주행차에 도덕적 판단을 ‘프로그램’하기 위해서는 판단 기준을 정하는 주체와 어떤 기준으로 판단할 지에 대해 충분히 논의돼야 하며, 이에 앞서 이 같은 상황 가정들이 얼마나 많이 고려됐는지에 대해서도 논의가 필요하지만, 아직 제대로 이뤄진 바는 없다는 것이다.

윤 사장은 이에 더해 지난해 초 미국 매사추세츠공과대학(MIT)에서 발표한 내용을 언급했다. 오픈 소스로 흔하게 쓰이는 얼굴 인식 알고리즘은 피부색과 성별에 따라 인식률에 차이가 있다는 것이다. 그는 “백인 남성의 경우 98%의 정확도로 인식하는 반면, 유색 여성의 경우 70%가 채 안 되는 인식률을 보인 것”이라면서 “자율 주행 자동차는 이런 카메라 기반의 얼굴 인식 알고리즘 외에도 다양한 센서로 작동하지만, 이 얼굴 인식 알고리즘이 왼쪽에는 사람이 있고, 오른쪽에는 유인원이 있다는 결론을 내린다면, 앞서 언급한 상위 인지 문제에 도달하기도 전에 특정 인종에 불합리한 의사 결정을 하게 될 수 있다는 결론에 이른다”고 설명했다.
또 윤 사장은 이처럼 편견과 불합리성이 내재된 소프트웨어가 생기는 것은 이를 개발하는 기술자들이 편견을 갖고 있기 때문이 아니라 AI 학습에 사용되는 데이터 자체가 편향된 정보만 갖고 있기에 가능하다고 봤다. 이에 대한 예시로 구글 이미지 검색 목록을 들었다. 몇 년 전까지만 해도 구글 검색창에 CEO란 단어를 치면 이미지 검색 결과 상위 50개는 모두 백인 남성 사진이었다는 것이다. 여성 사진 중 가장 맨 먼저 나오는 것은 CEO 복장을 한 바비 인형이라고 윤 사장은 밝혔다. 그는 “이런 데이터로 학습된 AI에게 ’CEO는 어떤 사람일까’라는 질문을 했을 때 어떤 대답이 나올지는 자명한 일”이라고 직언했다.

그러나 이런 ‘편견을 가진 AI’가 불편하다는 사람들도 있지만, 누군가는 사회 현실이 제대로 반영된, 제대로된 AI로도 생각할 수 있다. 그렇기에 AI에 대한 이 같은 윤리적 딜레마를 논의할 많은 성숙된 사회적 논의가 이뤄져냐 한다고 윤 사장은 재차 강조했다.

이에 대한 예시로 배심원제도와 정밀의료를 들었다. 미국 제판제도의 하나인 배심원 제도는 무작위로 시민들을 추첨해 특정 재판의 심판 일원으로 삼는다. 다만, 여기에 참여할 수 있는 시민은 유색인종 시민보다는 시간과 경제적으로 여유가 있는 백인 시민들이 더 많다는 것이다. 환자마다 다른 유전체 정보와 환경 요인, 생활 습관을 분석해 최적의 치료방법을 제시해주는 정밀의료의 경우도 마찬가지다. 병원에 주로 찾는 백인 시민들의 데이터가 더 많이 쌓였고, 이를 기반으로 AI 정밀의료 시스템을 만든다면, 유색인종에는 효과가 떨어지는 진단이 나올 수갂에 없는 것이다. 유 사장은 “이러한 편견은 이미 사회에 널리 퍼져 있지만, 같은 이야기가 기계를 통해 나오는 순간 사람들은 왠지 더 공정하고 객관적일 것이라 믿는다”면서 “결국 믿음의 오류는 결과의 정당화를 초래하게 되고 만다”고 경고했다.

다만 윤 사장은 “AI가 언제나 우리 사회의 편견을 심화시키기만 하는 것은 아니다”라면서 “AI는 인간 본성을 드러내고 이에 대한 근본적인 질문을 던지는, 그리고 대답을 요구하는 계기를 제공하기도 한다”고 덧붙였다. 이어 “AI의 기술로 발견된 편견과 부당함은 오히려 편견이 어디서 오게 되었는지 풀 수 있는 실마리가 될 수 있다”고 설명했다.

AI가 도입 이전에는 그냥 놔뒀던 사회 내 다양한 편견의 문제를 오히려 되짚어 풀게 되는 기폭제 역할을 수행한다는 의미다. 윤 사장은 “기술이 가지는 파급력이 커지는 만큼, 이를 다루고 만드는데 따르는 책임도 커지고 있다”면서 “우리가 만들어 내는 기술이 사회에 어떤 영향을 미치는지, 의도하지 않았던 결과를 초래할 위험은 없는지 충분한 고민이 필요한 시점”이라고 강조했다. 이어 그는 “편견이 반영된 기술을 받아들이지 않는 사회의 의식 또한 성숙해져야 한다”면서 “인공지능은 더 이상 하나의 새로운 기술에 그치지 않는다. 이 기술이 사회에 올바르게 작동하기 위해선 교육, 정책, 법률 등 다양한 부문에서 이 문제를 함께 고민해야 할 것”이라고 조언했다.


박수현 글로벌이코노믹 기자 psh@g-enews.com