[메가경제=주영래 기자] 의료 인공지능(AI) 전문기업 제이엘케이가 인텔과의 기술 검증을 통해 자체 의료 멀티모달 대규모언어모델(LLM) 플랫폼의 저비용 운영 환경을 확보했다고 21일 밝혔다. 고가의 AI 서버 의존도를 낮추면서도 상용화 수준의 성능을 입증해 의료기관과 기업 고객 대상 B2B 사업 확대에 속도를 낸다는 전략이다.
제이엘케이는 의료 멀티모달 LLM 플랫폼 'JOOMED(주메드)'를 인텔 GPU 기반 환경에서 검증한 결과, 인텔 아크 프로 B70 GPU 2개를 탑재한 '인텔 LLM 스케일러' 환경에서 높은 구동 안정성을 확인했다고 설명했다. 회사에 따르면 엔비디아 A100 80GB PCIe 기반 AI 서버와의 비교 평가에서도 대등한 수준의 분석 성능을 확보했다.
 |
| ▲ 제이엘케이, 인텔 GPU 검증으로 TCO 경쟁력 입증. |
■ 동일 조건 비교 검증…K-MMLU-Pro와 자체 의료 데이터 100건 활용
회사는 JOOMED 플랫폼의 인텔 GPU 최적화를 위해 동일한 모델과 파라미터를 적용한 상태에서 인텔과 엔비디아 환경을 비교 검증했다. 의료영상과 임상 데이터를 통합 분석하는 성능을 동일 조건에서 평가해 하드웨어별 성능과 비용 효율성을 분석했다는 설명이다.
검증에는 한국어 LLM 성능평가 기준인 'K-MMLU-Pro'와 제이엘케이가 자체 구축한 의료 멀티모달 데이터 100건이 활용됐다. 모델 구조와 데이터셋, 평가 기준을 동일하게 적용해 하드웨어 성능만 비교할 수 있도록 검증 환경을 구성했다고 회사 측은 밝혔다.
평가 결과 두 시스템 모두 의료 AI 상용화에 필요한 분석 정확도를 충족한 것으로 나타났다. 단일 연산 성능에서는 엔비디아 GPU가 우위를 보였지만, 총소유비용(TCO)을 반영한 비용 대비 성능에서는 인텔 GPU 기반 시스템이 경쟁력을 보였다고 회사는 전했다.
제이엘케이는 이번 검증으로 성능과 비용 효율성을 모두 고려한 AI 인프라 선택지를 확보했다고 설명했다. 의료기관의 예산 규모와 IT 환경에 따라 GPU 구성을 달리하는 맞춤형 인프라를 제안할 수 있게 되면서 의료 AI 도입 장벽을 낮출 수 있을 것으로 회사는 기대하고 있다.
회사는 이번 성과를 바탕으로 JOOMED 서비스 인프라를 다변화하고 의료기관과 기업 고객을 대상으로 한 B2B 사업을 본격 확대할 계획이다. 고객 환경에 맞는 다양한 AI 반도체 옵션을 제공해 구축 비용과 운영 부담을 줄인다는 전략이다.
제이엘케이 관계자는 "인텔 인프라를 통해 자체 의료 LLM을 안정적이고 비용 효율적으로 운영할 수 있는 환경을 확보했다"며 "예산 제약이 있는 의료기관에도 최적화된 AI 인프라를 제공해 JOOMED의 활용 범위를 지속적으로 확대해 나가겠다"고 말했다.
[저작권자ⓒ 메가경제. 무단전재-재배포 금지]
