“엉뚱한 대답 막는다”…LGU+, 글로벌 기업 손잡고 ‘AI 감시망’ 구축

|스마트투데이=최아랑 기자| G유플러스가 글로벌 AI 운영 관리 기업 어라이즈 AI(Arize AI)와 손잡고 AI 에이전트를 안전하게 운영하기 위한 관리 체계 구축에 나선다.

LG유플러스는 어라이즈 AI와 전략적 업무협약(MOU)을 체결하고 AI 에이전트의 성능과 품질 관리, 안전성 강화를 위한 기술 분야에서 협력하기로 했다고 밝혔다. 이번 협약은 기업 업무 환경에서 AI 활용이 확대되면서 AI의 성능과 응답 품질을 지속 점검하고, 오류와 보안 위험 요소를 사전에 제어할 수 있는 운영 체계를 마련하기 위해 추진됐다.

AI 에이전트는 단순한 질의응답을 넘어 사용자가 부여한 목표를 달성하기 위해 스스로 작업 계획을 세우고 도구를 활용해 업무를 자율적으로 완수하는 지능형 소프트웨어다. 다만 자율성이 높은 만큼 사실과 다른 정보를 사실처럼 꾸며내는 '환각(Hallucination)' 현상이나 부적절한 데이터 출력 위험이 존재해, 모델의 작동 과정을 실시간으로 추적·검증하는 ‘AI 관측성(Observability)’ 기술이 필수 과제로 꼽힌다.

어라이즈 AI는 생성형 AI와 AI 에이전트의 성능을 정밀 측정하고 오류를 분석하는 글로벌 AI 운영 관리 전문 기업이다. 통신, 금융, 제조, 유통 등 다양한 산업군 고객을 대상으로 AI 서비스 품질 관리 솔루션을 제공하고 있다.

양사는 이번 협약을 통해 AI 에이전트의 성능과 응답 품질을 체계적으로 점검하고, 운영 과정에서 발생할 수 있는 이상 징후를 분석·관리하는 기술 협력에 집중한다. 구체적으로는 ▲한국어·음성 기반 AI 평가 기술 개발 협력 ▲AI가 왜곡되거나 부적절한 답변을 내놓지 못하도록 통제하는 가드레일 안전장치 기술 협력 ▲국내 B2B 시장 공동 사업 기회 발굴 등을 추진할 계획이다.

LG유플러스는 이번 협력을 발판 삼아 AI 운영 관리 역량을 강화하고, 기업 고객을 위한 맞춤형 B2B AI 서비스의 안정성과 신뢰도를 끌어올릴 방침이다.

이상엽 LG유플러스 CTO(전무)는 "AI가 기업의 핵심 업무 환경으로 자리잡으면서 성능뿐 아니라 신뢰성과 운영 안정성이 중요한 경쟁력으로 떠오르고 있다"며 “어라이즈 AI와의 협력을 통해 AI 운영 관리 역량을 강화하고 고객이 신뢰할 수 있는 AI 서비스를 제공하겠다"고 말했다.

패트릭 켈리(Patrick Kelly) 어라이즈 AI 아시아태평양 지역 총괄 책임자는 "LG유플러스와의 협력을 통해 한국 시장에서 AI 운영 혁신 사례를 함께 만들어 갈 수 있게 돼 뜻깊게 생각한다"며 "양사가 보유한 기술과 경험을 바탕으로 안전하고 신뢰할 수 있는 AI 서비스 환경 구축을 지원하겠다"고 말했다.

서울 마곡 사옥에서 열린 협약식에는 이상엽 LG유플러스 CTO를 비롯한 회사 관계자들과 패트릭 켈리 아태지역 총괄 책임자, 진상열 한국지사장 등이 참석했다.