[ME분석] 세계는 지금 증오 콘텐츠와 전쟁중... 한국은?

[메가경제 강한결 기자] 지난 3월 15일 뉴질랜드 크라이스트처치의 모스크(이슬람회당)에서 역사상 최악의 무슬림 증오 범죄가 발생했다. 극우 백인 우월주의자의 총격 테러로 인해 51명이 사망했다. 용의자는 페이스북 라이브 스트리밍 서비스를 통해 참혹한 범행 장면을 생중계까지 했다.

용의자가 17분가량 범행을 생중계하는 동안 해당 영상은 4000회 가까이 시청됐고, 페이스북이 해당 영상을 삭제한 뒤에도 관련 영상은 SNS에서 확산됐다. 갑작스럽게 영상을 시청한 사람들은 커다란 정신적 충격을 받았다.

이뿐만이 아니다. 인터넷 상에서 인종차별, 폭력 및 증오, 극단주의 성향의 콘텐츠를 찾는 것은 어려운 일이 아니다. 굳이 찾지 않아도 무작위로 노출되는 경우가 많다.

이러한 것을 막기 위해 페이스북, 구글, 트위터 등 글로벌 인터넷 기업들이 온라인상의 증오표현과 폭력을 선동하는 콘텐츠를 강력히 규제하기로 합의했다.

구글, 마이크로소프트, 트위터, 페이스북, 아마존, 유튜브 등 인터넷 기업들은 15일(현지시간) 프랑스 파리에서 에마뉘엘 마크롱 프랑스 대통령과 저신다 아던 뉴질랜드 총리가 공동으로 주최한 '크라이스트처치 콜' 회의에서 테러나 폭력적 극단주의 콘텐츠, 증오표현 등을 규제하는 알고리즘과 인공지능(AI)을 개발하고, 즉각적인 차단에 나설 것이라고 발표했다.

회의에는 트위터의 잭 도시 최고경영자(CEO), 페이스북의 닉 클렉 글로벌 부문 부사장, 구글의 켄트 워커 최고법률책임자(CLO) 등이 참석했고, 테리사 메이 영국 총리, 쥐스탱 트뤼도 캐나다 총리, 요르단의 압둘라 2세 국왕, 장클로드 융커 유럽연합(EU) 집행위원장 등 주요국 정상급 지도자들도 함께했다.

이들은 성명에서 극단주의적이고 폭력적인 콘텐츠의 등장을 사전에 차단하기 위해 투명하고 구체적인 조처에 협조할 것이라 밝히면서 "그런 콘텐츠의 확산은 피해자들의 인권과 안보를 해치고 전 세계인에게 악영향을 준다"고 밝혔다.

인터넷 기업들은 소셜미디어 플랫폼에서 극단주의적 폭력 사상이나 증오표현의 배포·확산을 차단할 알고리즘과 규제를 마련해 나가고, 공동의 데이터베이스를 구축·활용하기로 했다.

이런 콘텐츠가 발견될 경우 즉각 차단에 나설 방침이다. 특히 라이브 스트리밍을 통해 실시간으로 테러나 폭력적 극단주의 콘텐츠가 확산되는 것을 막겠다고 약속하기도 했다.

대표적으로 페이스북은 회의에 하루 앞선 14일 라이브 스트리밍 서비스 이용자가 유해 콘텐츠를 올리면 그 즉시 일정 기간 서비스 사용을 제한하는 '원스트라이크' 정책을 도입한다고 발표한 바 있다.

한국 역시 혐오를 조장하는 콘텐츠의 범람으로 고심하고 있다. 지난 2월 방송통신심의위원회에 따르면 지난해 1~7월 온라인상 차별·비하 정보 심의 건수는 1041건으로 집계됐다. 또 최근 3년간 심의 건수 통계를 보면 2014년 861건, 2015년 1184건, 2016년 3022건으로 2년 새 3.5배 급증했다.

남녀노소 누구나 쉽게 이용이 가능한 유튜브의 경우 상황이 더 심각하다. 이러한 배경에는 조회 수가 돈이 되는 유튜브의 특이한 구조가 자리하고 있다는 지적이 나온다. 혐오 발언의 좋고 싫음을 떠나 일단 클릭하면 유튜버에게 돈이 되기 때문이다.

2017년 유튜버 '갓건배'는 '키가 작은 남자는 죽어야 한다. 6·25전쟁 났을 때 다리 잘린 애냐' 등의 발언을 했다. 이에 한 유튜버는 "후원금이 모이면 갓건배를 죽이러 가겠다"고 말해 실제로 그의 주소로 짐작되는 곳으로 향하는 사건이 일어나기도 했다.

또한 10·20대를 대상으로 시사 이슈를 설명하는 극우성향 유튜버 '윾튜브'는 여성 혐오, 성 소수자 비하, 지역 차별 등 극우적인 발언으로 단기간에 60만명이 넘는 구독자를 모았다. 하지만 과거 천안함 유족 비하, 대구 지하철 참사 비하발언을 했다는 사실이 알려지며 지금은 채널이 삭제됐다.

문제는 아직 가치관이 확립되지 않은 10대가 이러한 콘텐츠에 무분별하게 노출된다면, 성인이 된 후에도 영향을 받을 가능성이 높다는 점이다.

해외에서는 관련법으로 영상을 규제하고 있다.

독일의 '네트워크시행법(NetzDG)'은 이용자가 200만명 이상인 유튜브나 페이스북, 트위터 등 소셜미디어에 특정 대상을 혐오하는 콘텐츠가 올라오면 업체 측이 삭제하도록 하고 있다.

국내의 경우 인터넷 개인방송은 방송통신심의위원회가 모니터링을 한다. 하지만 기존 방송처럼 행정처분 등 징계를 내리지 않고 콘텐츠 규제를 권고하는 식의 조치를 취하고 있다. 문제가 되는 콘텐츠에 대한 삭제를 요청하지만 명백한 불법 콘텐츠가 아닐 경우 삭제가 어렵다는 지적이 나온다.

다만 명백한 불법 콘텐츠가 아니더라도 혐오를 조장하거나 극단주의적인 내용을 담고 있다면, 다수의 수용자를 위해서 보다 적극적인 규제가 있어야 한다는 목소리도 커지고 있다.