[메가경제=황성완 기자] 카카오는 자율 에이전트의 확산에 대응하고자 인공지능(AI) 서비스의 기획부터 운영까지 적용할 AI 윤리 원칙과 이행 가이드를 마련했다고 15일 밝혔다.
 |
| ▲(좌측부터)김경훈 카카오 AI 세이프티 리더, 하진화 카카오 AI 커뮤니케이션 수석, 정병수 유니세프 L&D센터장, 이상욱 한양대학교 철학과 교수, 김세웅 카카오 부사장, 김명주 AI안전연구소 소장, 이원태 국민대학교 특임교수, 유재연 한양대학교 사회혁신융합전공 겸임교수, 변순용 서울교육대학교 윤리교육과 교수, 이민석 국민대학교 소프트웨어융합대학 교수가 기념촬영을 하고 있다. [사진=카카오] |
카카오는 지난 13일 카카오 AI 캠퍼스에서 열린 개발자 컨퍼런스 ‘if(kakao)26’를 통해 이를 공개했다. 카카오 하진화 AI 커뮤니케이션 수석은 ‘윤리를 깨는 자율 에이전트, 어떻게 대응할까?’ 세션을 통해 AI가 스스로 계획하고 행동하는 환경에서 인간의 판단과 책임을 정하고, 윤리를 서비스 설계와 운영에 반영하는 실행 체계의 필요성을 강조했다.
새 AI 윤리 원칙 ‘SPIRIT’은 ▲안전(Safety) ▲프라이버시(Privacy) ▲포용(Inclusivity) ▲책임(Responsibility) ▲이용자 주체성(Individual Autonomy) ▲투명성과 신뢰성(Transparency & Trustworthiness) 여섯 가지로 구성된다. ‘대한민국 인공지능 윤리원칙’의 3대 가치와 7대 원칙을 주요 이행 기준으로 채택했으며, 카카오 서비스에 맞게 세부 내용들을 보완했다.
수립한 원칙을 실질적 이행으로 옮기는 방식은 ‘NORMA(Navigating, Organizational, Responsibility, Manageable, Actionable)’로 정의했다. 공동 책임에 대한 조직적 의지를 바탕으로 복잡한 윤리 과제를 관리 가능하고 실행 가능한 단계로 구체화한다는 의미다.
이번 윤리 원칙과 이행 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 함께 이달 초 마련했다. 자문단은 독립적인 검토를 통해 국내외 규범과의 정합성을 점검했으며, 카카오에서는 AI 세이프티, 개인정보, 정보보안, 서비스 등 관련 부서가 실무 관점에서 검토해 현장 적합성을 높였다.
카카오는 자율 에이전트 리스크를 ▲통제 주도권 ▲목표 ▲권한 ▲참조 자원 ▲상호작용의 5대 관리 영역으로 나누고, 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등 필요한 통제를 연결했다. 이를 바탕으로 만들어진 ‘AI 윤리 이행 체크리스트’는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정의 세 단계로 운영된다. 체크리스트는 연내 적용할 예정이다.
아동·청소년 보호를 위한 점검도 강화한다. 카카오는 2025년부터 적용해 온 ‘디지털 아동·청소년 보호 체크리스트’에 더해, OECD와 유니세프의 아동 온라인 리스크 분류 체계(5Cs)를 참고한 AI 특유의 아동 리스크 점검 요소를 새 체크리스트에 반영할 계획이다.
카카오는 지난 2018년 국내 기업 최초로 ‘알고리즘 윤리헌장’을 발표했으며, 2022년 카카오 및 주요 계열사가 참여하는 AI&기술윤리소위원회를 설립해 운영해왔다. 이후 그룹 공통의 '책임 있는 AI를 위한 가이드라인' 수립, 이용자 주체성 원칙 추가, '안전한 AI를 위한 핵심 체크리스트' 그룹 의무화 등을 통해 윤리 체계를 발전시켜 왔다. 소위원회는 AI 기본법 제28조가 규정한 인공지능윤리위원회의 역할을 자율적으로 수행하고자 외부 자문위원단을 함께 운영하고 있다.
김세웅 카카오 AI&기술윤리소위원회 위원장은 “외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다”며 “AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다”고 말했다.
한편, 카카오의 카카오프렌즈는 오는 16일 전 세계적으로 사랑받는 ‘해리포터’와 만나, 춘식이와 친구들의 유쾌한 마법학교 입학기를 담은 콜라보레이션 굿즈를 선보일 예정이다.
[저작권자ⓒ 메가경제. 무단전재-재배포 금지]
