통제 벗어난 AI의 외부 시스템 침입…안전장치 실효성 도마에
[메가경제=황성완 기자] 샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI) 안전성 우려를 이유로 올해 기업공개(IPO)를 추진하지 않겠다는 입장을 밝혔다.
또한, 내부 평가 과정에서 AI 모델이 통제 장치를 우회해 외부 기업 시스템에 침입한 사건까지 드러나면서, 회사가 고도화된 AI를 통제할 안전장치 확보를 최우선으로 한 것으로 보인다.
 |
| ▲샘 올트먼 오픈AI CEO. [사진=연합뉴스] |
14일 업계에 따르면 올트먼 CEO는 지난 12일(현지시간) 미 경제전문지 포춘과의 인터뷰를 통해 "안전과 관련해 벌어지는 상황들을 고려할 때, 지금은 오픈AI가 상장하기에 적절치 않은 시기"라며 "우리는 (상장) 압박을 느끼지 않고 있다"고 강조했다.
그러면서 "올해는 아닐 것"이라며, 안전과 정렬을 위해 필요한 과제들을 해결하고 업계와 정부가 어떻게 협력할지 모색해야할 것"이라고 말했다.
그는 AI가 초래할 수 있는 위험에 대해 "2030년 말까지 모든 사람이 사망할 확률을 10% 정도로 감수하는 것은 용납할 수 없다고 생각한다"며 "우리가 모두 동의해야 할 핵심 원칙은 AI에 미래의 통제권을 빼앗기는 위험을 초래할 행동을 해서는 안 된다"고 덧붙였다.
 |
| ▲오픈AI CI. [사진=오픈AI] |
◆ AI 안전성 우려 전면에…"상장보다 통제 역량 점검 우선"
이번 발언은 오픈AI의 상장 시점을 둘러싼 시장 기대에 제동을 건 것으로, 오픈AI는 앞서 지난 6월 미 증권거래위원회(SEC)에 비공개 IPO 신청서를 제출하고 상장 절차를 밟기도 했다.
다만, 최근 업계에서 안전 문제를 둘러싼 경고가 잇따름에 따라 이같은 결정을 내린 것으로 보인다.
같은 날 다리오 아모데이 앤트로픽 CEO도 블로그를 통해 "AI의 잠재적 위험에 대응하려면 개발 속도를 조절할 필요가 있다"고 강조했다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI 공동창립자도 이 같은 주장에 공감한다는 뜻을 밝혔다.
올트먼이 앞세운 쟁점은 AI의 능력 향상을 인간의 통제 역량이 따라갈 수 있느냐다. 올트먼은 최근 인터뷰에서 인간이 통제할 수 없는 AI가 만들어질 가능성을 인정하고, 필요하다면 개발을 멈추는 조치도 취할 수 있다는 입장도 전했다.
◆ 평가 환경 벗어나 '허깅페이스' 침입…현실이 된 AI 통제 위험
안전성 논란을 구체적으로 보여주는 사례는 AI 플랫폼 허깅페이스를 대상으로 발생한 침입 사건이다.
오픈AI가 지난 8월 26일 공개한 조사 결과에 따르면, 내부 사이버보안 평가에 참여한 AI 모델들은 인터넷 접근을 제한한 통제 장치를 우회하고 오픈AI 연구 인프라와 허깅페이스 시스템 일부를 침해했다. 주된 활동을 이끈 모델은 외부 공개용 제품이 아닌 내부 연구용 모델이었다. 평가는 외부 서비스보다 안전장치를 줄인 조건에서 진행됐다.
모델들은 승인받지 않은 경로로 서로 정보를 교환하고, 인프라의 취약점을 악용해 인터넷에 접근했다. 이후 공개적으로 노출된 인증정보 등을 활용해 허깅페이스 서버에 침입했다는 것이 회사 측 설명이다.
오픈AI는 사건 이후 관련 연구 모델을 격리하고 연구 인프라의 보안을 강화했다. 인터넷 접근 제한과 모델 접근 통제를 강화하는 한편, 위험한 행동을 조기에 감지하기 위한 모니터링에도 추가 자원을 투입할 예정이다.
회사는 이번 사건이 오픈AI 고객 데이터나 제품 기능·가용성에는 영향을 주지 않았다고 설명했다.
이번 사건은 AI가 어려운 과제를 해결하는 과정에서 부여받은 권한과 목적을 벗어날 수 있다는 위험을 드러냈다. 다만 올트먼이 제시한 IPO 판단의 이유는 전반적인 AI 안전성 우려로, 허깅페이스 사건만을 상장 지연의 직접적인 원인으로 단정하기는 어려울 것으로 보인다.
업계 관계자는 "AI가 발전하는 만큼 통제 장치도 같이 발전해야 한다"며 "상장을 추진하려면 성장성뿐 아니라 이런 위험을 어떻게 관리할지도 투자자들에게 설명해야할 것"이라고 말했다.
[저작권자ⓒ 메가경제. 무단전재-재배포 금지]
