이미지 확대보기
AI 기반 복지 행정이 효율성 제고라는 미명 아래 저소득층의 기본권을 심각하게 위협하고 있다는 충격적인 보고서가 공개됐다.
워싱턴포스트는 20일(현지 시각) 비영리단체 테크토닉 저스티스가 발표한 197페이지 분량의 조사보고서를 통해 AI 시스템이 저소득층의 복지혜택을 부당하게 거부하는 사례가 급증하고 있다고 보도했다.
현재 미국의 복지 행정에서 AI는 광범위하게 활용되고 있다. 메디케이드 자격 심사와 급여 지급, 보충적 보장소득(SSI) 수급 자격 판단, 푸드스탬프 사기 탐지, 주택임대 심사뿐 아니라 민간 보험사의 치료 사전 승인과 의료서비스 결정까지 AI가 깊숙이 관여하고 있다.
특히 AI는 복잡한 데이터 분석을 통해 장기 복지 수급자의 위험을 예측하고 맞춤형 지원을 제공하는 데까지 활용 범위를 넓히고 있다. 의료복지 분야에서는 환자의 진료기록과 건강정보를 분석해 치료 계획을 수립하고, 보험 적용 여부를 결정하는 데 AI가 점차 활용되고 있다.
실제로 스탯뉴스 조사에 따르면, 다국적 보험회사 유나이티드헬스는 AI 알고리즘을 사용해 임상의의 판단을 무시하고 중증 노인 환자의 치료를 거부한 사례가 있었다. 이처럼 의료복지 시스템에서 AI의 영향력이 커지면서, AI의 판단이 환자의 의료서비스 접근성에 중대한 영향을 미치는 상황이 우려를 낳고 있다.
이 시스템들이 비용 절감에만 초점을 맞춰 설계되면서 심각한 문제가 발생하고 있다. 동명이인의 재산을 혼동하거나 임상의의 전문적 판단을 무시하는 등 기계적 오류로 인한 피해가 속출하고 있다. 더욱 우려스러운 것은 AI 시스템이 과거의 차별적 관행에 의해 왜곡된 데이터를 학습해 편향된 결정을 내릴 수 있다는 점이다.
이런 문제를 해결하기 위해 미국 내에서는 다양한 노력이 진행되고 있다. 시민사회단체들은 AI 시스템의 투명성 강화와 책임성 확보를 위한 법제화를 추진하고 있으며, 법률구조단체들은 AI의 잘못된 판단으로 인한 피해자들을 위한 소송을 진행하고 있다. 아칸소 주의 경우, 결함 있는 AI 시스템으로 인한 재택간호 서비스 중단 사건에서 46만 달러의 합의금 지급과 시스템 개선을 이끌어낸 바 있다.
더욱 우려되는 것은 이러한 문제가 심화될 수 있다는 점이다. 차기 트럼프 행정부가 구상 중인 '정부효율성부' 설치와 복지예산 대폭 삭감 계획은 AI를 통한 비용 절감 압박을 가중시킬 전망이다. 보수 성향의 싱크탱크들은 이미 메디케어와 메디케이드에서 AI 도입을 통한 비용 절감을 적극 주장하고 있다.
이는 한국의 복지행정 디지털화에도 중요한 시사점을 제공한다. 한국은 현재 복지 행정 효율화를 위해 AI 도입을 적극 추진하고 있지만, 미국의 사례는 신중한 접근이 필요함을 보여준다. 특히 사회보장정보시스템 고도화 과정에서 AI 도입 시 △엄격한 검증과 책임체계 마련 △수급권자의 권리보호를 위한 법적 장치 마련 △AI 판단의 근거와 과정에 대한 설명요구권 보장 △이의제기 및 구제절차의 실질화 △취약계층의 정책참여 보장 등이 선제적으로 고려되어야 한다.
무엇보다 중요한 것은 AI가 인간 중심 접근 방식을 유지하면서 기술이 아닌 사람에 초점을 맞추는 것이다. AI 복지 행정의 미래는 효율성과 인권 보호라는 두 가치의 균형에 달려있다. 단순한 비용 절감이 아닌, 복지수급권이라는 기본적 인권을 보장하면서도 행정의 효율성을 높일 수 있는 방안을 모색해야 한다. 결국, AI가 사회적 약자를 보호하는 도구가 될 것인지, 아니면 새로운 차별의 도구가 될 것인지는 우리 사회의 선택에 달려있다.
박정한 글로벌이코노믹 기자 park@g-enews.com
