신한은행, 국제 AI 학회에서 금융 AI 검증 논문 2편 발표…에이전트 안전성 정조준

박성태 기자 / 기사승인 : 2026-11-16 14:38:32
여신·수신·외환 등 은행 업무 특화 LLM 벤치마크 ‘K-BankEval’ 5000개 문항 구축
AI 에이전트 최종 답변부터 도구 실행 과정까지 검증하는 ‘Agent Foundry’ 체계 공개
금융권 생성형 AI 전환 가속 속 ‘환각·오작동’ 차단할 내부통제 기술력 입증

[메가경제=박성태 기자] 인공지능(AI)이 똑똑해지면서 은행 업무에도 AI 도입이 빠르게 늘고 있지만, 사소한 계산 실수나 근거 없는 잘못된 답변 하나가 곧바로 고객 피해로 이어질 수 있다는 점이 가장 큰 걸림돌로 꼽혀 왔다. 신한은행(은행장 정상혁)이 이러한 불안을 해소하기 위해 AI가 실제 은행원처럼 정확하고 안전하게 일할 수 있는지 깐깐하게 시험하고 검증하는 자체 기술을 개발해 국제 무대에서 인정받았다.

 

▲ 신한은행, 국제AI학술대회에서 금융 AI 안전성 및 신뢰성 연구 성과 발표 [이미지=신한은행 제공]


신한은행은 지난 15일(현지시간) 이탈리아 밀라노에서 열린 글로벌 AI 학술대회 ‘ICAIF(International Conference on AI in Finance) 2026’ 워크숍에서 금융 AI의 안전성과 신뢰성을 높이기 위한 연구 논문 2편을 발표했다고 16일 밝혔다. ICAIF는 전 세계 학계와 글로벌 금융사들이 모여 금융과 AI 기술의 최신 연구 성과와 실제 현장 적용 사례를 공유하는 국제 학술대회다.

신한은행은 이번 학회에서 ▲ 은행 업무에 적합한 AI 모델을 골라내는 평가 기준 ‘K-BankEval(케이-뱅크이밸)’, ▲ AI가 업무를 처리하는 전 과정을 감시·검증하는 플랫폼 ‘Agent Foundry(에이전트 파운드리)’에 관한 연구 성과를 공개했다.

첫 번째 논문에서 소개한 ‘K-BankEval’은 쉽게 말해 AI를 위한 ‘은행 업무 전용 실무 시험지’다. 예금·적금(수신), 대출(여신), 외환 등 실제 은행 창구와 본부에서 이뤄지는 업무 특성을 반영해 총 5000개 문항과 6개 평가 영역으로 설계했다.

평가 항목은 ▲ 은행 업무 전문지식, ▲ 금융 약관과 문서를 정확히 찾아 근거를 대며 답하는 능력, ▲ 업무에 필요한 전산 프로그램을 제때 불러와 쓰는 능력, ▲ 이자·환율 등 금융 계산과 추론 능력, ▲ 고객에게 불리하거나 위험한 안내를 하지 않는 금융소비자 보호 안전성, ▲ 복잡한 업무 순서를 스스로 짜는 계획 능력 등 6가지로 구성됐다.

신한은행이 국내외 주요 AI 모델 6개를 이 시험지로 비교 평가한 결과, 일상적인 대화나 일반 상식 시험에서 1등을 차지한 AI라도 실제 은행 세부 업무에서는 실수가 잦거나 성능 차이가 크다는 사실이 확인됐다. 신한은행은 이 평가 기준을 활용해 각 은행 업무에 가장 잘 맞는 AI 모델을 선별하고, 부족한 부분을 미리 찾아내 보완할 수 있는 기반을 마련했다.

두 번째 논문인 ‘Agent Foundry’는 신한은행 내부의 AI 검증 플랫폼을 활용해, AI가 내놓은 최종 결과물뿐 아니라 답을 찾아가는 ‘중간 풀이 과정’ 전체를 꼼꼼히 따져보는 기술이다.

기존에는 AI가 질문에 그럴듯한 최종 답변만 내놓으면 통과시키는 경우가 많았다. 하지만 실제 은행 업무에서는 AI가 중간에 엉뚱한 전산 도구를 실행하거나 필수 확인 절차를 건너뛴 채 운 좋게 정답만 맞혔다면 대형 사고로 이어질 수 있다.

신한은행은 업무별 필수 확인 사항을 구체적인 채점 기준으로 만든 뒤, AI가 어떤 순서로 자료를 찾고 어떤 전산 도구를 실행했는지 기록 전체를 뜯어본다. 이를 통해 ▲ 답변이 은행 업무 기준을 충족했는지, ▲ 필요한 전산 도구를 알맞게 사용했는지, ▲ 업무 처리 과정이 효율적이었는지를 입체적으로 점검한다. 특히 근거가 부족한 상태에서 어림짐작으로 내놓은 답변은 정상 통과 사례와 엄격히 구분해 걸러내도록 체계를 고도화했다.

최근 국내 주요 시중은행들은 금융당국의 망분리 규제 완화 기조에 맞춰 상담 챗봇 수준을 넘어 대출 심사 보조, 자산관리 상담, 내부통제 등 핵심 업무에 생성형 AI를 본격적으로 투입하고 있다.

문제는 생성형 AI 특유의 ‘환각 현상(모르는 내용도 사실인 것처럼 지어내 답하는 오류)’이다. 일상적인 정보 검색에서는 AI가 틀린 답을 내놓아도 사용자가 걸러낼 수 있지만, 은행 업무에서 금리나 한도를 잘못 계산하거나 금융소비자보호법상 필수 안내 사항을 누락하면 곧바로 불완전판매와 금전적 피해로 직결된다. 글로벌 금융권에서 단순히 AI의 지능을 높이는 경쟁을 넘어, AI의 오작동을 사전에 통제하고 검증하는 기술력이 상용화의 성패를 가르는 핵심 기준으로 자리 잡은 이유다.

신한은행 관계자는 “금융 분야에서 AI를 실질적으로 활용하려면 단순히 AI 성능이 뛰어나다는 평가를 넘어 실제 은행 업무에 적합한지, 업무 수행 과정이 내부 기준에 맞게 이뤄지는지를 함께 검증하는 것이 무엇보다 중요하다”며 “앞으로도 금융 환경에 특화된 AI 평가·검증 기술을 지속적으로 고도화해 고객과 직원 모두가 안심하고 활용할 수 있는 금융 AI 환경을 만들어가겠다”고 말했다.

 

 

[저작권자ⓒ 메가경제. 무단전재-재배포 금지]

뉴스댓글 >

최신기사

1

신한은행, 국제 AI 학회에서 금융 AI 검증 논문 2편 발표…에이전트 안전성 정조준
[메가경제=박성태 기자] 인공지능(AI)이 똑똑해지면서 은행 업무에도 AI 도입이 빠르게 늘고 있지만, 사소한 계산 실수나 근거 없는 잘못된 답변 하나가 곧바로 고객 피해로 이어질 수 있다는 점이 가장 큰 걸림돌로 꼽혀 왔다. 신한은행(은행장 정상혁)이 이러한 불안을 해소하기 위해 AI가 실제 은행원처럼 정확하고 안전하게 일할 수 있는지 깐깐하게 시험하고

2

롯데그룹, 40대 임원 전진 배치…신유열 사장 승진·경영체제 대수술
[메가경제=심영범 기자]롯데그룹이 2027년 정기 임원인사를 통해 그룹 경영체제 재편과 세대교체에 나섰다. 신유열 롯데지주 미래성장실장이 사장으로 승진해 신설되는 경영전략실을 이끌게 되면서 그룹 내 역할과 책임이 확대됐다. 계열사별 사업 특성에 맞춘 전문경영체제를 강화하는 한편, 40대 임원을 전진 배치해 조직의 실행력을 높이는 데 초점을 맞췄다. 16일

3

부산 북구, 청년 예술가 순회공연 '음악씨의 화원' 성료
[메가경제=정태현 기자] 북구가 청년 예술가들이 지역 주민을 직접 찾아가 음악으로 소통하는 순회공연을 마무리했다. 노인복지관과 아동 돌봄시설 등에서 다양한 장르의 공연을 선보이며 주민들의 문화예술 향유 기회를 넓혔다.북구는 청년 예술가들이 참여한 청년콘서트 '음악씨의 화원'을 총 5회에 걸쳐 진행했다고 16일 밝혔다. 이번 공연은 부산시 공모

HEADLINE

더보기

트렌드경제

더보기