지난해 보이스피싱 피해액 1조2578억원…송금 전 별도 확인 필수
[메가경제=이상원 기자] 인공지능(AI)과 디지털 기술이 일상을 빠르게 바꾸고 있다. 편리함과 새로운 기회를 제공하지만 ‘딥페이크’·‘AI 보이스피싱’ 같은 신종 범죄와 사이버 폭력, 허위정보 확산 등 새로운 사회문제도 낳고 있다.
디지털 전환 과정에서의 소외현상도 문제로 지적된다. 어린이와 청소년의 올바른 AI 활용부터 고령층의 키오스크 이용, 장애인의 디지털 접근성 등 기술 발전의 혜택이 모두에게 고르게 돌아가는지 살펴볼 필요가 있다. ‘모·디·세(모두를 잇는 신뢰의 디지털 세상)’를 통해 AI와 디지털 기술이 만든 변화와 그 이면을 짚어본다. - 편집자 주
“엄마, 나야. 지금 급하게 돈이 필요해.”
 |
| ▲ AI입은 보이스피싱 이미지. [사진=챗GPT] |
전화기 너머에서 자녀와 똑같은 목소리가 들린다면침착하게 진위를 확인하기 힘들다. 가족의 목소리를 복제해 위급한 상황을 연출하고 돈을 요구하는 수법은 해외 당국이 경고하는 실제 범죄 유형이다.
1일 업계 관계자에 따르면 보이스피싱이 AI를 활용해 더욱 정교해지고 있다.인공지능(AI) 음성복제 기술이 고도화되면서 익숙한 목소리만으로 상대방의 신원을 확인하기 어려워지고 있다. 통신사들도 발신번호와 대화 내용 분석에 더해 범죄자의 성문을 비교하거나 합성음성을 탐지하는 방식으로 대응 범위를 넓히고 있다.
◆가족 목소리에 사투리까지…익숙한 음성도 안심 못 해
미국 연방거래위원회(FTC)는 온라인에 공개된 짧은 음성 자료와 음성복제 프로그램만으로 가족처럼 들리는 목소리를 만들어 사기에 이용할 수 있다고 경고했다. 상대방의 목소리가 익숙하더라도 곧바로 믿지 말고, 기존에 알고 있던 연락처로 직접 확인해야 한다는 것이다.
스코틀랜드 애버테이대 연구진이 현지 참가자 150명을 대상으로 사람과 AI가 생성한 음성을 구별하도록 한 결과, 상당수가 AI 음성을 실제 사람의 목소리로 인식했다. 특히 지역색이 강한 방언을 사용한 경우 이 같은 경향이 더욱 두드러졌다. 연구진은 참가자들이 AI가 지역 특유의 사투리까지 자연스럽게 구사할 것이라고 예상하지 못한 점이 영향을 미쳤다고 분석했다.
이 같은 범죄는 기술과 심리적 압박을 함께 이용한다. 가족이 사고를 당했다는 말로 불안을 키우고, 송금을 재촉하거나 다른 사람에게 알리지 말라고 요구해 확인할 기회를 차단한다. 어눌한 말투나 어색한 억양을 찾아내는 것만으로는 대응에 한계가 있는 이유다.
◆지난해 피해액 1조2578억원…최근 10개월은 감소세
국내 보이스피싱 피해 규모도 크다. 경찰청이 국회에 제출한 자료에 따르면 지난해 보이스피싱 발생 건수는 2만3360건, 피해액은 1조2578억원으로 집계됐다. 피해액은 2024년 8545억원보다 47.2% 증가했으며, 건당 평균 피해액은 약 5384만원에 달했다.
검찰·금융감독원 등 기관을 사칭한 범죄의 피해액은 9884억원으로 전체의 78.6%를 차지했다. 공공기관에 대한 신뢰와 범죄 연루에 대한 공포를 악용하는 수법이 거액의 피해로 이어지는 모습이다. 다만 이는 전체 보이스피싱 통계로, AI 음성합성을 악용한 범죄만 따로 집계한 피해액은 아니다.
최근에는 감소세도 나타났다. 정부가 9월 2일 발표한 관계부처 합동자료에 따르면 지난해 10월부터 올해 7월까지 10개월간 보이스피싱 발생 건수는 1만2554건으로 전년 같은 기간보다 39.9% 줄었다. 피해액도 1조1137억원에서 6324억원으로 43.2% 감소했다. 이 기간 매월 발생 건수와 피해액이 모두 전년 동월보다 줄었다.
정부는 지난해 8월 ‘보이스피싱 근절 종합대책’을 발표한 이후 ▲전기통신금융사기 통합대응단 출범 ▲범행 전화번호 긴급차단 ▲AI 기반 탐지·경고 강화 ▲국제공조 확대 등을 추진했다. 정부는 사후 수습에서 선제 예방·차단으로 대응의 중심을 옮긴 것이 피해 감소에 기여했다고 평가했다.
 |
| ▲ AI 보이스피싱 차단 위한 다양한 방안 이미지. [사진=챗GPT] |
◆통신 3사, 가족 경고·성문 비교·합성음성 탐지 확대
범죄 수법이 정교해지면서 통신사들의 대응도 여러 단계로 확대되고 있다. SK텔레콤은 가족·지인에게 위험을 알리는 기능을, KT는 범죄자 성문 비교와 딥보이스 탐지를, LG유플러스는 합성음성 판별을 활용하고 있다.
SK텔레콤은 ‘에이닷 전화’에서 통화 전 의심 전화를 차단하고, 통화 중에는 AI가 대화 내용을 분석해 이용자에게 경고한다. 올해 4월에는 보이스피싱 의심 정황이 탐지되면 사전에 등록한 가족이나 지인에게도 알리는 ‘가족 케어’ 기능을 추가했다. 피해자가 심리적 압박에 빠져 스스로 판단하기 어려운 상황에서 주변 사람이 개입할 수 있도록 돕는 방식이다.
KT는 ‘후후’에 적용한 ‘AI 보이스피싱 탐지 2.0’을 통해 대화 맥락 분석에 화자 인식과 딥보이스 탐지를 결합했다. 통화 상대의 성문을 수사기관이 확보한 범죄자 음성과 비교하고, AI가 합성한 목소리인지도 판별한다. KT에 따르면 탐지 정확도는 지난해 1분기 90.3%에서 4분기 97.2%로 높아졌다.
LG유플러스는 AI 통화 앱 ‘익시오’에 합성음성을 판별하는 ‘안티딥보이스’를 적용했다. 음성의 주파수 특성을 분석해 약 5초 안에 위변조 여부를 판단하고, 대화 패턴을 함께 분석해 보이스피싱 의심 여부를 탐지한다. 회사 측에 따르면 지난해 6월 말 상용화 이후 첫 한 달간 약 5500건의 위변조 음성을 탐지했다. 이는 위변조 음성 탐지 건수로, 실제 금전 피해를 막은 건수와는 구분해야 한다.
◆범행 번호 10분 내 차단…AI 플랫폼으로 663억원 편취 예방
금융·통신·수사기관의 정보 공유와 신속한 차단도 병행되고 있다. 보이스피싱 정보공유·분석 AI 플랫폼은 지난해 10월 출범 이후 올해 7월 말까지 의심정보 46만3000건을 공유했다. 정부는 이를 통해 663억6000만원의 자금 편취를 사전에 차단했다고 밝혔다.
범행 전화번호를 차단하는 속도도 빨라졌다. 경찰청은 한국인터넷진흥원과 통신 3사, 삼성전자 등과 협력해 지난해 11월부터 범행에 이용된 전화번호의 수신·발신 기능을 7일간 정지하는 긴급차단 제도를 시행하고 있다. 차단 소요 시간은 기존 평균 2~3일에서 10분 이내로 단축됐으며, 9월 2일 발표 기준 누적 차단 실적은 11만5088건이다.
대응 범위는 SNS와 메신저로도 넓어지고 있다. 경찰청은 네이버·카카오·라인 등 플랫폼 업체와 협력해 올해 들어 범죄에 악용된 SNS 계정 5만3000여개를 차단하고, 피해 우려자에게 5만1000여건의 위험 알림 메시지를 발송했다. 전화와 문자, 메신저를 오가며 접근하는 범죄에 맞춰 여러 경로에서 피해를 예방하겠다는 취지다.
◆송금 전 기존 번호로 재통화…피해 의심 땐 즉시 112
기술적 대응과 함께 이용자의 확인 절차도 중요하다. 가족이나 지인이 급하게 돈을 요구하면 우선 통화를 끊고 평소 저장해 둔 번호로 다시 전화해야 한다. 연결되지 않으면 다른 가족이나 지인을 통해 상황을 확인해야 한다. 기관을 사칭하는 경우에도 상대방이 알려준 번호가 아닌 공식 대표번호로 사실관계를 확인해야 한다.
가족끼리 외부에 공개하지 않은 비밀 단어나 확인 문구를 정해두는 것도 방법이다. 미국 연방수사국(FBI)은 가족의 신원을 확인할 수 있는 문구를 마련하고 온라인에 공개하는 얼굴·음성 자료의 범위를 줄일 것을 권고하고 있다. 생일이나 학교 이름처럼 SNS에서 쉽게 찾을 수 있는 정보는 확인 문구로 적절하지 않다.
문자와 음성메시지, 영상통화가 함께 제시됐다는 이유만으로 신뢰해서도 안 된다. 모두 같은 사칭 상대에게서 나온 자료라면 독립적인 확인으로 보기 어렵다. 확인되지 않은 상대가 보낸 링크를 누르거나 앱을 설치하고, 인증번호를 전달하는 행동도 피해야 한다.
이미 송금했거나 피해가 의심된다면 즉시 112 또는 해당 금융회사에 연락해 신고하고 지급정지를 요청해야 한다. 악성 앱 설치가 의심될 때는 주변 사람의 전화 등 다른 기기를 이용하는 것이 필요하다. 정부는 전기통신금융사기 통합대응단의 인력을 확충해 24시간 365일 신고 대응 체계를 운영하고 있으며, 응대율을 98% 수준으로 높였다고 밝혔다.
업계 관계자는 “AI 시대에는 익숙한 목소리도 신원을 보증하지 못한다. 송금 전 다른 경로로 한 번 더 확인하는 절차를 가족과 지인 사이의 일상적인 약속으로 정착시켜야 한다”며 “확인을 불신이 아닌 서로의 재산과 안전을 지키는 행동으로 받아들이는 데서 디지털 안전이 시작된다”고 말했다.
[제작지원 : 한국언론진흥재단]
[저작권자ⓒ 메가경제. 무단전재-재배포 금지]
