[메가경제=황성완 기자] SK쉴더스는 글로벌 인공지능(AI) 레드팀 해킹대회 ‘Judgement Day(심판의 날)’에서 자사 화이트해커 그룹 EQST(이큐스트) 소속 김병현 선임이 최종 1위를 차지했다고 15일 밝혔다.
 |
| ▲SK쉴더스 CI. [사진=SK쉴더스] |
최근 생성형 AI가 행정과 공공서비스 전반까지 확산되면서 재난 대응을 비롯한 다양한 분야에서 활용 가능성이 주목받고 있다. 단순 정보 제공을 넘어 위험지역 분석, 대피 대상 식별, 대응 우선순위 설정 등 의사결정을 지원하는 역할까지 기대되며 AI의 영향력은 커지고 있다.
이와 함께 시스템 자체를 공격하는 기존 방식뿐 아니라 AI의 판단을 왜곡하는 새로운 유형의 보안 위협이 핵심 과제로 부상하고 있다. 이번 ‘Judgement Day’ 대회는 AI 에이전트가 금지된 행동을 수행하거나 필수 안전 조치를 누락하도록 유도하는 공격 기법을 평가하는 데 초점을 맞춰 진행됐다.
대회는 ▲응급환자 분류 오류 ▲댐 수위 판단 왜곡 ▲항공기 이상 징후 미탐지 등 실제 산업 환경을 반영한 8개 시나리오로 구성됐다. 특히 AI의 의사결정 취약점을 노린 공격으로 인해 응급실에서 중증 환자의 우선순위가 뒤바뀌거나 항공기 이상 신호가 정상으로 판단되는 상황이 발생될 수 있으며, 이를 통해 금전적 손실과 신뢰도 저하를 넘어 심각한 인명 피해로까지 이어질 수 있음을 확인했다.
평가는 문제 해결 방식과 공격 전략의 다양성을 반영하는 구조로 진행됐다. 참가자들은 동일한 시나리오를 여러 방식으로 반복 공략할 수 있었으며, 신속하게 성공시킬수록 추가 점수가 부여됐다.
김병현 선임은 이미지·음성·영상 등 다양한 형태의 입력을 활용하는 ‘멀티모달 프롬프트 인젝션’ 공격으로 AI의 판단을 교란하며 최고 성적을 거뒀다. 예를 들어 이미지 내부에 잘못된 행동을 유도하는 문구를 숨기거나 특정 행위를 강요하는 방식으로 AI가 기존 규칙을 따르지 않도록 유도했다.
특히 실제 시스템 로그처럼 보이도록 입력을 설계하고 시스템 프롬프트에 정의되지 않은 예외 상황을 공략함으로써 공격 성공률을 크게 높였다. 동일한 문제에서도 다양한 방식으로 공격을 빠르게 성공시키며 높은 점수를 획득했다.
EQST 소속 마준영 선임과 김신우 선임도 각각 5위와 7위를 기록하며 우수한 성과를 거뒀다. EQST는 폰투온 오토모티브(Pwn2Own Automotive), 블랙햇(Black Hat), 데프콘(DEF CON), 드림핵 해킹방어대회(Dreamhack) 등 국내외 주요 보안 대회에서 꾸준히 성과를 내며 글로벌 수준의 화이트해커 조직으로서 경쟁력을 입증해왔다.
EQST는 다양한 산업에서 축적한 침해 대응 경험과 위협 인텔리전스를 기반으로 실제 공격을 가정한 레드팀 서비스를 제공하고 있다. 이를 통해 고객사의 AI 시스템 취약점 사전 식별과 보안 리스크 최소화를 지원하며, 글로벌 표준인 ‘OWASP Top 10 for LLM(대형 언어 모델 보안 취약점 기준)’을 반영한 자체 프레임워크로 체계적인 점검과 대응 전략 수립까지 제공하고 있다.
이번 성과는 이러한 연구와 실전 역량이 결합된 결과로 AI 공격 대응 및 레드팀 경쟁력을 다시 한번 입증한 사례로 평가된다.
김병현 SK쉴더스 EQST 랩팀 선임은 “AI 판단을 교란하는 공격 가능성을 실제로 검증하고 그 결과가 AI 안전성 연구로 이어진다는 점에서 큰 보람을 느낀다”며 “그간 동료들과 함께 축적해온 노력이 좋은 성과로 이어져 매우 기쁘며, 앞으로도 새로운 AI 위협에 대응하는 연구를 지속해 나가겠다”고 말했다.
김병무 SK쉴더스 사이버보안부문장(부사장)은 “생성형 AI가 산업 전반으로 확산되면서 AI 보안은 선택이 아닌 필수 역량이 되고 있다”며 “SK쉴더스는 이번 대회에서 검증한 AI Red Team 역량을 바탕으로 고객이 AI를 안전하고 신뢰성 있게 활용할 수 있도록 적극 지원할 것”이라고 강조했다.
한편, SK쉴더스는 지난 2일 전국 대학의 사이버보안 강화를 위해 한국교육정보화재단, 이스케이프솔루션과 3자 업무협약(MOU)을 체결하기도 했다.
[저작권자ⓒ 메가경제. 무단전재-재배포 금지]
