노무현재단, 민주주의 위협하는 ‘온라인 혐오 표현’ 근절 위한 AI 모니터링 본격 가동

사람사는세상 노무현재단(이하 노무현재단)은 노무현 대통령을 대상으로 유통되는 온라인 혐오 콘텐츠에 신속하게 대응하기 위해 지난 1월 15일부터 ‘노무현 대통령 온라인 혐오 표현 AI 모니터링’ 시스템을 본격 가동했다고 밝혔다.

노무현재단은 온라인 공간에서 노무현 대통령을 소재로 한 혐오 콘텐츠가 ‘놀이’를 빙자해 소비·확산되는 현상에 주목해 왔다. 이러한 유희화된 혐오는 인권 침해에 대한 사회적 감수성을 약화시키고, 결과적으로 사회적 약자에 대한 차별과 혐오가 용인되는 분위기를 조성하는 데 영향을 미친다. 노무현재단은 이처럼 혐오가 일상적으로 소비되며 고착화되는 현상이 우리 사회의 민주주의 가치를 근본적으로 훼손한다고 판단했다.

이에 노무현재단은 지난해 진행한 노무현 대통령 사례 중심의 온라인 혐오 표현 기초 연구를 바탕으로 ‘차별 없는 사람사는세상을 위한 5대 대응 방안’을 수립했다. 해당 대응 방안은 △법적 대응 강화 △온라인 플랫폼·커뮤니티 대응 △디지털 인권 교육 △정책 및 입법 활동 △공익 캠페인으로 구성된다. 노무현재단은 이를 통해 혐오 문화의 무분별한 확산을 억제하고, 우리 사회의 민주주의 가치와 인권 존중의 원칙을 회복하는 데 기여하고자 한다.

이번 사업은 ‘AI 자동 감지’와 시민 제보 시스템을 이중 축으로 가동하는 것이 골자다. AI 시스템은 온라인 공간을 상시 모니터링하며 △사자명예훼손 △모욕 △허위 정보 및 왜곡 △혐오 표현 등을 포착한다. 여기에 시민 제보 시스템을 연계해 AI가 놓치기 쉬운 사례까지 수집한다는 방침이다. 시민 제보는 노무현재단 홈페이지에서 누구나 참여할 수 있다. 노무현재단은 수집된 데이터를 통합 분석해 해당 플랫폼에 삭제를 요청하는 등 실효성 있는 대응에 집중할 계획이다.

모니터링을 통해 수집된 자료는 향후 법률 대응 검토 및 온라인 혐오 문화 개선을 위한 정책 제안의 근거로 활용된다. 노무현재단은 이번 사업은 전직 대통령의 명예를 보호하는 동시에 우리 사회가 지켜야 할 민주적 가치와 사람사는세상의 원칙을 회복하기 위한 노력이라며, 앞으로도 시민사회 및 관계 기관과 협력해 온라인 혐오 문화에 책임감 있게 대응하겠다고 밝혔다.