김훈동 KT 전략·사업컨설팅부문 AI 리드가 26일 마이크로소프트(MS) 주최로 열린 'MS AI 투어 인 서울'에 참석해 발표하고 있다. KT 제공
KT와 MS가 개발한 은행 대출상담·심사용 AI의 시연 장면. KT 제공
"대출 상품 추천을 시작하겠습니다. 나이가 어떻게 되시나요?"
인공지능(AI) 은행원이 나이, 연봉, 수도권 여부, 전세보증금, 주거 면적, 결혼 여부, 자녀 여부 등을 따져 버팀목 대출 가능 상품을 소개해준다.
KT가 마이크로소프트(MS)와 손잡고 '한국적 AI'가 적용된 AI 에이전트를 도입한다. 기존 챗GPT 등 AI 서비스가 '기성복'이라면 기업을 위한 '맞춤복'과 같은 AI 에이전트를 제공해 맞춤형 서비스를 제공한다는 방침이다.
김훈동 KT 전략·사업컨설팅부문 AI 리드는 27일 온라인 브리핑을 통해 "대형언어모델(LLM)에서 검색증강생성(RAG)을 통해 에이전트로 산업 트렌드가 바뀌고 있다"며 "한국의 역사와 철학, 사회를 기반으로 하는 고품질 데이터를 활용해 MS와 함께 'GPT-4o' 기반의 커스텀 모델을 개발해 산업계 문제를 푸는 AI 에이전트를 확대할 것"이라고 말했다.
특히 한국적 AI는 GPT-4o 기반 모델에 한국 중·고등학교 교과서, 대학 교재, 신문기사 60년치, 한국 법령과 판례와 같은 법률 문서 등 대규모 한국어 데이터를 학습시켰다. 단순 언어 설정만 바꾸는 것이 아니라 한국의 정서와 규범, 언어 스타일, 규제환경에 맞도록 모델을 '미드트레이닝' 시키는 식이다.
산업계를 위한 AI 에이전트는 용도에 따라 내부(B2E)와 외부(B2C)로 구분한다. KT는 내부적으로 다수의 AI 에이전트를 도입해 일하는 방식을 혁신하고, 산업계 각 업종에서도 AI 에이전트를 준비하고 있다.
구체적으로 AI 에이전트가 금융권 대출 심사 업무에 사용되는 사례를 선보였다. AI 에이전트가 대출 신청 접수를 받아 신용 평가 정보를 수집해 개인의 상황을 반영해 대출 조건을 검토한다. 또 신용 점수를 평가하고 금융권 프로세스에 맞춰 심층 평가를 하는 신용 평가·심사 에이전트도 내놨다. 대출이 가능한 특정 기준을 충족하면 심층 리포트 작성 에이전트로 넘어간다. 최종 승인 과정에서 검토 리포트로 활용되는데, 오픈AI의 '딥리서치'와 유사한 기술이 사용된다.
김 리드는 "금융 업무의 "AI 에이전트를 설계할 때는 단순 질의응답을 넘어 대출 약관 등 복잡한 조건을 종합적으로 판단할 수 있도록 하는 '어드밴스드 RAG' 같은 기술적 구조가 고려돼야 한다"며 "비즈니스 맥락을 이해하고 수정할 수 있도록, 깨끗하고 고품질의 데이터셋을 기반으로 학습된 모델이 핵심"이라고 강조했다.
이와 함께 KT는 데이터 주권 확보를 위한 시큐어 퍼블릭 클라우드(SPC)를 소개했다. KT SPC는 KT가 MS와 협력을 통해 공동 출시한 '한국적 소버린 클라우드'다. KT는 사내 시스템을 KT SPC에 올리는 작업을 진행하고 있다. 운영상 보완점을 정비하고, 올 2분기 정식 서비스를 국내 시장에 출시한다는 계획이다.
강성권 KT클라우드 리드 상무는 "국내 퍼블릭 클라우드 시장에서 글로벌 CSP 3사가 전체 시장의 85%를 차지하고, 국내 사업자는 15% 수준"이라며 "KT SPC는 보안을 강화한 인프라(IaaS)를 기반으로, 서비스형 소프트웨어(SaaS), 서비스형 플랫폼(PaaS)까지 적용해 데이터 보안을 극대화할 수 있는 클라우드 서비스를 제공하는 것이 목표"라고 말했다.
KT 측은 KT SPC의 특징으로 △ 데이터 해외 유출 방지를 위한 국내 지역 사용 강제 △국내 규제 준수를 위한 랜딩존 클라우드 환경 구성 △하드웨어 기반 메모리 암호화를 통한 데이터 통제 권한 부여 △클라우드 운영자의 자원 직접 접근 차단 등을 꼽았다.
KT 측은 "KT는 MS와의 협력을 통해 클라우드 전환 컨설팅에서 설계 및 구축, 운영까지 풀 서비스를 갖추고 있다"며 "KT SPC 전환 여정 전체를 지원할 것"이라고 말했다.김나인기자 silkni@dt.co.kr
Copyright © 디지털타임스. 무단전재 및 재배포 금지.