케이뱅크, 금융 책 1억권 학습한 LLM 도입..‘인터넷은행 최초’

|스마트투데이=김국헌 기자| 케이뱅크는 인터넷은행 최초로 금융 관련 도서 1억권을 학습한 ‘프라이빗 LLM(대규모언어모델)’을 도입했다고 26일 밝혔다. 

지난해 2월 KT·KT클라우드·업스테이지와 업무협약을 체결하고, AI(인공지능) 분야 협업을 강화한 성과다. 

프라이빗 LLM(Large Language Model)은 누구나 사용하는 챗GPT, 딥시크 등과 달리 특정 조직이나 기업 내부에서만 사용하도록 설계한 맞춤형 인공지능 언어 모델이다. 

공개형 LLM과 달리 프라이빗 LLM은 기업이 원하는 전문 데이터를 학습시켜 더 정교하고 신뢰성 높은 정보를 생성할 수 있다. 또 데이터가 외부로 전송되지 않고 내부 서버에서만 운영되기 때문에 보안성이 뛰어나다. 특히 금융 산업은 복잡한 금융용어와 개념이 많고 보안이 중요하기 때문에 프라이빗 LLM 도입이 주목받고 있다.

케이뱅크는 이번 프라이빗 LLM 설계를 위해 금융 공공기관, 금융학회 등에서 발표한 책 1억권 분량의 방대한 금융 전문 데이터를 수집했다. 사후 학습(Post-training) 과정을 통해 방대한 금융 데이터를 학습시켜, 금융 도메인 전문성을 강화하고 범용적인 언어 처리 능력을 유지했다. 또 공신력 있는 금융 자격시험 23종에서 추출한 데이터로 LLM을 평가해, 금융 지식 수준을 측정하고, 종합적인 성능도 입증했다. 

케이뱅크는 프라이빗 LLM을 내부 업무 프로세스 혁신과 대고객 AI 서비스 확대 등에 활용할 예정이다. 대화형 AI 서비스로 임직원이 묻는 질문에 답하고, 콘텐츠를 요약해 보고서를 생성한다. 특히 고객을 위한 AI 에이전트(가상비서) 도입을 검토할 예정이다. 

케이뱅크 관계자는 “금융 산업은 높은 보안성과 전문적인 역량을 요하는 만큼 프라이빗 LLM의 활용도가 높다”며 “앞으로도 AI 혁신을 통해 비즈니스 영역을 확장하고 업무 생산성을 강화하며 ‘AI 기반 은행(AI Powered Bank)’으로 거듭나겠다”고 말했다.