[전자신문] NH농협은행, LG CNS와 생성형 AI 플랫폼 연내 구축

📰 NH농협은행, LG CNS와 생성형 AI 플랫폼 연내 구축

신문 바로가기

NH농협은행이 LG CNS와 자체 생성형 인공지능(AI) 플랫폼을 구축한다. 금융 특화 모델이다.

 

양사는 지난달 플랫폼 개발에 착수, 오는 6~7월 중 서비스 오픈과 안정화를 거쳐 똑똑한 금융 서비스를 제공할 예정이다. LG CNS는 두 차례 기술비교평가(BMT)에서 AI 기술력과 비즈니스 활용 역량을 인정받아 NH농협은행의 AI 파트너로 최종 선정됐다.

 

LG AI연구원의 AI 모델 '엑사원'을 비롯해 챗GPT·라마·클로드 등 고객이 원하는 생성형 AI 모델이 탑재된 LG CNS 'DAP GenAI 플랫폼'을 적용, AI 전문 개발지식이 없는 사람도 손쉽게 AI 에이전트와 같은 AI 서비스를 개발하도록 지원한다.

 

NH농협은행은 12일 생성형 AI 플랫폼 사업설명회를 열고 직원 업무 역량 향상과 고객 경험 개선 등 플랫폼 구축 배경을 소개했다. 특히 고객에게 더 나은 금융 서비스 제공을 목표로 한다.

 

생성형 AI 서비스를 도입해 AI 기반 문서관리, 지식정보검색 서비스, 빅데이터 분석을 통한 고객 맞춤형 마케팅 문구 생성, 기업 고객 대상 정책자금지원 추천 등 직원 업무 역량 향상과 고객 경험을 개선한다는 방침이다. 데이터 품질 확보를 위한 비정형 데이터 관리 체계도 마련한다.

 

LG CNS는 고객 맞춤형 금융상품 추천 등 AI 뱅킹 서비스를 고도화, NH농협은행을 이용하는 고객 편의성을 대폭 향상할 계획이다. 특히 최신 엑사원 3.5를 파인튜닝, NH농협은행 전용 생성형 AI를 구축한다. 훈련된 AI 파운데이션 모델에 농협은행 데이터를 추가 학습, 금융사 맞춤형 플랫폼을 구현한다.

 

또 AI 검색 속도와 정확도를 강화한다. LG CNS가 자체 개발한 검색증강생성(RAG) 솔루션 '키룩'을 적용, 한국어 검색 역량을 획기적으로 개선하고 AI가 잘못된 답변이나 거짓 정보를 전달하는 '환각 현상'도 최소화하기로 했다.

 

현신균 LG CNS 사장은 “금융 서비스 경쟁력은 AI와 빅데이터를 기반으로 더욱 빠르고 개별화된 고객 서비스를 제공하는 데 달려 있다”며 “LG CNS는 앞으로도 금융고객의 비즈니스 혁신을 위해 기업용 생성형 AI 기술을 고도화할 것”이라고 말했다.

 

 

 

 

 

 

✍ 정리

 

 

NH농협은행이 LG CNS와 협력해 금융 특화 생성형 AI 플랫폼을 연내 구축한다. 이를 통해 AI 기반 문서 관리, 고객 맞춤형 금융상품 추천, 빅데이터 분석 등을 활용한 금융 서비스 혁신을 추진하며, LG CNS는 최신 AI 모델 '엑사원 3.5'를 파인튜닝해 NH농협은행 전용 AI 시스템을 개발할 계획이다.

 

 

 

 

 

 

1️⃣ NH농협은행과 LG CNS 협력

• NH농협은행은 LG CNS와 함께 자체 생성형 AI 플랫폼을 구축 중
• 금융 특화 AI 모델로, 직원 업무 효율성과 고객 경험 개선이 목표
• 6~7월 중 서비스 오픈 및 안정화 예정

 

 

2️⃣ LG CNS의 AI 기술 적용

• '엑사원'을 비롯한 GPT·라마·클로드 등 다양한 AI 모델을 적용
• 비개발자도 쉽게 AI 서비스를 개발할 수 있도록 지원하는 'DAP GenAI 플랫폼' 활용

 

 

3️⃣ 주요 AI 기능

• AI 기반 문서관리 및 지식 정보 검색 서비스 제공
• 빅데이터 분석을 통한 맞춤형 마케팅 문구 생성
• 기업 고객 대상 정책자금 지원 추천
• NH농협은행 데이터를 추가 학습한 금융 특화 AI 모델 구축

 

 

4️⃣ 검색 성능 및 정확도 향상

• LG CNS의 검색증강생성(RAG) 솔루션 '키룩' 적용
• 한국어 검색 역량 강화 및 AI의 '환각 현상'(거짓 정보 생성) 최소화

 

 

5️⃣ LG CNS의 금융 AI 전략

• 최신 AI 모델 '엑사원 3.5'를 최적화하여 NH농협은행 전용 AI 구축
• 금융 서비스의 AI·빅데이터 활용을 통해 맞춤형 고객 서비스 제공 강화

 

 

 

 

 

 

 

 

 

 

🔍 추가 조사: LG 엑사원(EXAONE) 3.5

 

 

 

1️⃣ 모델 유형

 

• 2.4B 모델: 온 디바이스용 초경량 모델 
  • 온 디바이스 환경이나 저사양 GPU에서도 학습과 추론이 가능한 경량화 모델
  • 우수한 인프라 환경이 갖춰지지 않은 곳에서도 모델 구동 가능

 

• 7.8B 모델: 범용적 활용 가능한 경량 모델
  
  • 이전 버전의 오픈소스 모델과 크기는 동일하지만 성능은 더욱 향상

 

• 32B 모델: Frontier AI 급의 고성능 모델
  • 성능을 최우선으로 고려하는 고객을 위한 강력한 모델

 

 

 

 

 

2️⃣ 주요 특징

 

• 학습 효율성 (Training Efficiency)
  • 사전학습 단계: 중복된 데이터와 개인 식별 정보를 제거 → 모델 답변 성능 높이고 인프라 비용 줄임
  • 사후학습 단계: 모델의 사용성 높이고 새로운 과제 수행 능력을 높이는 방향에 초점 맞춤
    • SFT(Supervised Fine-Tuning)과 DPO(Direct Preference Optimization) 방식 사용함
    • Instruction Following 능력 강화하고 사용자의 선호도를 잘 반영할 수 있도록 함

 

• Decontamination
  • 성능 평가 결과에 대한 신뢰도를 높이기 위함
  • 글로벌 모델에 사용된 Decontamination 방식을 차용하되 평가에 활용된 데이터셋과 학습 데이터를 비교하는 과정을 10회 반복 수행함

 

 

 

 

 

3️⃣ 글로벌 최고 수준의 AI 모델 

 

 

1. Long Context 이해 및 처리 능력

• 웹 검색 결과나 참조 문서를 기반으로 답변을 생성하는 RAG(Retrieval-Augmented Generation) 기술이 활용되면서 모델의 Long Context 이해도가 중요해짐
• EXAONE 3.5 모든 모델들은 32K 토큰 Context를 처리 가능하도록 설계되었으며 동급 글로벌 모델 대비 최고 성능 기록
• 실제 이해 및 처리 가능한 최대 문맥 길이(Effective Context Length)가 32K로 설정됨
• 영어뿐만 아니라 한국어에서도 최고 수준의 긴 문맥 처리 능력 보유

 

 

 

 

2. Instruction Following 능력

• AI 모델이 산업 현장에서 인간의 생산성과 업무 효율성을 실질적으로 향상시킬 수 있도록 설계됨
• 총 7개의 벤치마크에서 Instruction Following 능력 평가 진행
  • EXAONE 3.5의 모든 모델 모두 평균 점수 1위를 기록
  • 동급 글로벌 모델 대비 압도적인 성능 차이를 보임
• 영어뿐만 아니라 한국어에서도 뛰어난 Instruction Following 성능을 입증

 

 

 

 

 

3. 비즈니스 파트너십

• 단순한 기술적 가능성을 넘어 실제 활용성과 비즈니스 모델 구축이 핵심
• 국내 및 글로벌 기업들과의 협업을 통해 AI 솔루션을 상용화 진행 중
• 국내에서 폴라리스오피스, 한컴 등 자체 소프트웨어를 보유한 기업들과 협업 논의 중
• 공공기관 활용도가 높은 한컴 오피스에 EXAONE 3.5 기반 AI 서비스를 구현하는 PoC(Proof of Concept) 프로젝트 추진

 

 

 

 

 

 

 

4️⃣ 강화된 기능

 

1. 일반 도메인(General Domain) 성능

• 수학 능력, 프로그래밍 능력에서도 우수한 성능을 기록
• 총 9개의 단일 벤치마크를 활용하여 일반적인 문제 해결 능력을 평가
  • 특히 2.4B 모델이 평균 점수 1위를 기록하며 동급 글로벌 모델 대비 높은 성능을 보임
  • 7.8B 모델과 32B 모델도 상위권을 유지함

 

 

 

 

2. 책임있는 AI

• AI 윤리 및 기업의 책임
  • AI 모델을 오픈소스로 공개할 경우 AI 연구와 생태계 발전에 기여할 수 있는 장점이 있지만 윤리적 문제도 고려해야 함
  • 잠재적인 위험 요소
    • 사회적 약자에 대한 편향 및 불평등 문제 발생 가능성
    • 유해 콘텐츠(혐오 표현, 불법적 내용) 생성 가능성
    • 악의적인 사용자에 의한 오남용 가능성
  • 이를 방지하기 위해 AI 라이프사이클 전 과정에서 위험을 사전 검토하는 AI 윤리 영향 평가(AI Ethics Impact Assessment)를 수행
• 윤리성 평가 결과
  • EXAONE 3.5의 모든 모델은 혐오 표현 및 불법적인 요소 필터링 성능에서 우수한 결과를 보임
  • 2.4B 모델은 지역이나 직업과 관련한 편향성을 개선할 필요 있음

 

 

 

 

 

🔗 연관 링크

 

EXAONE 3.5 3개 모델 오픈소스로 공개 - Frontier AI급의 모델, Instruction Following 및 Long Context 최고 수준 성능 달성 | LG AI 연구원 공식 블로그

EXAONE-3.5 | 깃허브 

 

 

 

 

 

 

 

 

 

 

💡현직자에게 할 질문

 

 

1️⃣ EXAONE 3.5와 NH농협은행 AI 플랫폼 구축 관련

• NH농협은행과 협력하여 구축 중인 AI 플랫폼에서 EXAONE 3.5의 역할이 구체적으로 어떻게 정의되었는지 궁금합니다. 단순히 언어 모델로 활용되는 것인지 아니면 NH농협은행의 금융 데이터에 맞춰 어떤 특화된 기능이 추가되는지 알 수 있을까요?
• 파인튜닝 과정에서 NH농협은행의 데이터를 추가 학습한다고 언급되었는데 기존 EXAONE 3.5의 금융 데이터셋과 비교했을 때 어떤 차별점이 있는지 금융 특화 AI로서 어떤 차별화된 학습 전략을 사용하고 있는지 궁금합니다.
• EXAONE 3.5가 NH농협은행 AI 플랫폼에서 적용될 때 다른 오픈모델(GPT, 라마, 클로드 등)과 비교했을 때 어떤 부분에서 더 강점을 가지는지 그리고 현업에서 어떤 이유로 EXAONE이 선택되었는지 설명해 주실 수 있을까요?

 

 

 

2️⃣ 검색증강생성(RAG) 및 AI 검색 최적화 관련

• LG CNS의 RAG 솔루션 '키룩'이 NH농협은행의 AI 플랫폼에 적용된다고 들었는데 금융 데이터 환경에서 기존의 RAG 방식과 비교했을 때 어떤 차별점을 가지는지 설명해 주실 수 있을까요?
• AI 검색 시스템에서 ‘환각 현상(Hallucination)’을 최소화한다고 했는데 금융 데이터처럼 엄격한 정확도가 요구되는 환경에서 이를 해결하기 위해 적용된 특정 기술이나 전략이 있는지 궁금합니다.
• RAG 모델을 금융 도메인에 적용할 때 가장 어려운 점은 어떤 것이었으며 이를 해결하기 위해 어떤 방식으로 데이터 관리 체계를 구축하고 있는지 궁금합니다.

 

 

 

3️⃣ AI 윤리 및 책임 있는 AI 개발 관련

• EXAONE 3.5의 윤리성 평가에서 일부 모델(특히 2.4B 모델)에서 지역이나 직업 관련 편향성이 존재한다고 언급되었는데 이를 개선하기 위한 구체적인 계획이나 연구 방향이 있는지 궁금합니다.
• AI 모델이 금융 서비스를 제공할 때 윤리적 이슈(예: 편향된 대출 심사, 고객 차별 문제 등)를 방지하기 위해 어떤 정책을 적용하고 있는지 설명해 주실 수 있을까요?
• AI 윤리 영향 평가(AI Ethics Impact Assessment)를 진행했다고 하셨는데 금융 도메인에서 AI 윤리를 평가할 때 고려하는 주요 기준이 무엇인지 궁금합니다.

 

 

 

4️⃣ 금융 AI의 향후 전망 및 활용 가능성

• 현재 NH농협은행이 구축 중인 AI 플랫폼이 향후 다른 금융기관에도 확장될 가능성이 있는지, 혹은 NH농협은행 전용으로 운영될 계획인지 궁금합니다.
• 금융 AI 서비스가 고객 맞춤형 금융상품 추천, 빅데이터 분석을 통한 마케팅 최적화 등으로 활용된다고 들었는데, 향후에는 어떤 추가적인 서비스가 가능할 것으로 예상하는지 궁금합니다.
• EXAONE 3.5는 한국어와 영어 모두 강점이 있는 모델인데, 글로벌 금융 시장에서 활용될 가능성이 있는지, 혹은 해외 금융기관과의 협업 계획이 있는지 궁금합니다.