[메가경제=주영래 기자] 경희대병원 정신건강의학과 백종우 교수팀이 인공지능(AI)을 활용한 ‘온라인 자살 유해 콘텐츠 조기 탐지 및 대응 기술’을 개발했다. 안전한 디지털 환경 조성과 고위험군 조기 발견을 통해 자살 예방 정책의 실효성을 높일 수 있을 것으로 기대된다.
이번 연구는 성균관대학교 박진영 교수, 한국자살예방협회 박성준 박사, 뉴욕대학교 조경현 교수와 공동으로 진행됐다.
 |
| ▲ 경희대병원 정신건강의학과 백종우 교수팀이 인공지능(AI)을 활용한 ‘온라인 자살 유해 콘텐츠 조기 탐지 및 대응 기술’을 개발했다. [사진=챗GPT] |
한국은 OECD 국가 중 자살률이 높은 국가로, 디지털 공간에서의 위험 콘텐츠 관리 필요성이 지속적으로 제기돼 왔다. 현재는 인력 중심의 모니터링 체계가 운영되고 있으나 24시간 대응의 한계와 반복적 유해 콘텐츠 노출로 인한 트라우마 문제가 지적된다.
연구팀은 SNS 및 온라인 커뮤니티 게시물 4만3,244건을 분석하고, 정신건강의학과 전문의와 심리학자가 직접 검토한 벤치마크 데이터를 구축해 AI 기반 분류 시스템을 개발했다.
해당 시스템은 자살 유도 및 고위험 게시물을 위험도에 따라 ▲불법 ▲유해 ▲잠재적 유해 ▲무해 ▲비자살 등 5단계로 자동 분류한다. 특히 은어·비유·약어 등 검열을 우회하기 위한 표현까지 탐지할 수 있도록 설계해 기존 비숙련 인력 대비 높은 탐지 성능을 확보했다는 설명이다.
성능 평가 결과, GPT-4 모델 적용 시 불법 콘텐츠 탐지 정확도 66.46%, 유해 콘텐츠 탐지 정확도 77.09%를 기록했다. 연구팀은 이를 통해 실제 현장 적용 가능성을 확인했다고 밝혔다.
백종우 교수는 “AI 기반 자살 유해 콘텐츠 탐지 시스템은 안전한 디지털 환경 조성과 고위험군 조기 발견에 기여할 수 있을 것”이라며 “선제적이고 비용 효율적인 정책 대응 체계 구축과 국가 자살 예방 인프라 강화의 기반이 되기를 기대한다”고 말했다.
한편 이번 연구 결과는 의료 정보학 분야 국제 학술지 JMIR Medical Informatics 2월호에 게재됐다.
[저작권자ⓒ 메가경제. 무단전재-재배포 금지]
