미국 은행의 생성형 AI 도입과 안전성 확보 전략

TecAce Software
Nov 25, 2024
6 min read

생성형 AI는 미국 금융 산업에서 혁신을 주도하며, 고객 경험의 개인화, 새로운 비즈니스 모델 창출, 그리고 내부 효율성 개선 등에 커다란 영향을 미치고 있습니다. 이러한 기술 혁신에 발맞추어 데이터 안전성 확보와 리스크 관리의 중요성도 커지고 있는데요. 이번 글에서는 주요 미국 은행들이 어떻게 생성형 AI를 도입하고 있는지, 그리고 이를 안전하게 통합하기 위한 전략을 소개합니다.

미국 은행의 생성형 AI 도입 사례
- JPMorgan Chase: 선도적 역할
- Capital One: AI 인재와 특허 확보
- Morgan Stanley: OpenAI 기술 활용
- Wells Fargo: AI 가상 비서 'Fargo'
- 생성형 AI 도입이 가져온 혁신적인 서비스들
미국 은행들이 겪은 주요 도전과 과제
- 데이터 프라이버시 및 보안 문제
- 규제 준수 및 윤리적 고려사항
- 인재 부족 및 조직 문화 적응
- 레거시 시스템과 인프라 문제
- 신뢰성과 설명 가능성의 확보
안전한 AI 통합을 위한 전략들
- 거버넌스 체계 구축
- 리스크 관리 프레임워크 강화
- 데이터 보안 및 규제 준수
- 단계적 도입 및 모니터링
- AI 모델의 지속적인 평가

미국 은행의 생성형 AI 도입 사례

JPMorgan Chase: 선도적 역할

JPMorgan Chase는 금융 부문에서 생성형 AI 도입을 선도하고 있는 은행 중 하나입니다. 이 은행은 'LLM Suite'라는 AI 어시스턴트 도구를 도입하여 14만 명의 직원들이 이를 활용할 수 있도록 했습니다. 또한 재무팀을 위해 'ChatCFO'라는 도구를 출시하여 의사결정을 지원하고, 신입 직원에게 프롬프트 엔지니어링 교육을 제공하여 AI 활용 역량을 극대화하고 있습니다.
Capital One: AI 인재와 특허 확보

Capital One은 AI 역량 확장을 위해 인재 확보와 지적 재산권에 집중하고 있습니다. 이 은행은 전체 직원 중 AI 인재 비율이 높고, 50개의 은행이 출원한 AI 관련 특허 중 38%를 보유하고 있습니다. 이러한 투자는 기술 중심의 금융 시장에서 경쟁 우위를 확보하기 위한 전략입니다.
Morgan Stanley: OpenAI 기술 활용

Morgan Stanley는 OpenAI와 협력하여 내부 AI 도구를 개발하였습니다. 'AI @ Morgan Stanley Assistant'를 통해 16,000명의 자문가들이 10만 개 이상의 문서에 접근하여 고객 지원을 향상시킬 수 있도록 하고 있습니다. 또한 'Debrief' 프로그램을 통해 고객 미팅 요약과 후속 이메일 생성을 자동화하여 자문가들의 행정 업무를 줄이고 효율성을 높이고 있습니다.
Wells Fargo: Fargo AI 가상 비서

Wells Fargo는 Google의 PaLM 2 LLM을 기반으로 한 AI 가상 비서 'Fargo'를 도입했습니다. https://www.youtube.com/watch?v=171JPwQD978&t=2s Fargo는 고객의 일상적인 은행 업무 질문에 답변하고 작업을 수행하는 데 사용됩니다. 주요 기능으로는 지출 패턴 분석, 신용 점수 확인, 청구서 지불, 거래 세부 정보 제공 등이 있으며, 2023년 3월 출시 이후 2천만 건 이상의 상호작용을 처리하며 연간 1억 건의 상호작용을 목표로 하고 있습니다.
새로운 비즈니스 모델 개발

개인화된 금융 서비스
- AI 기반 재무 상담: AI가 고객의 재무 데이터를 분석하여 맞춤형 재무 조언과 투자 전략을 제공합니다. 출처: Aisera 출처: IBM
- 개인화된 포트폴리오 전략 수립: 고객의 목표와 리스크 성향에 맞는 개인화된 포트폴리오 전략을 수립합니다. 출처: Netguru
지능형 고객 서비스

24시간 이용 가능한 AI 챗봇: AI 챗봇과 가상 비서가 고객 문의에 즉각 응답하며, 자연스러운 대화를 통해 고객 경험을 향상시킵니다. 출처: Master of Code

데이터 기반 의사결정
- 고급 리스크 관리: AI가 방대한 데이터를 분석하여 더 정확한 리스크 평가와 신용 평가를 수행하며, 실시간으로 시장 동향과 재무 지표를 분석하여 투자 결정을 지원합니다.
- 자동화된 규제 준수: AI 알고리즘이 규제 보고서 작성을 자동화하고 컴플라이언스 체크를 수행합니다.
새로운 수익 창출 모델
- AI 기반 투자 플랫폼: RBC Capital Markets의 Aiden 플랫폼과 같이 AI를 활용한 트레이딩 및 투자 전략을 제공합니다.
- 자동화된 대출 심사: AI가 대출 신청을 자동으로 평가하고 승인하여 프로세스를 가속화합니다.
- 예측 분석 서비스: Wells Fargo의 Predictive Banking 기능처럼 고객의 미래 재무 상황을 예측하고 조언을 제공합니다.

이러한 새로운 비즈니스 모델들은 은행의 운영 효율성을 높이고 고객 경험을 개선하며, 새로운 수익원을 창출하는 데 기여하고 있습니다. 생성형 AI의 도입으로 은행들은 더욱 데이터 중심적이고 고객 지향적인 서비스를 제공할 수 있게 되었습니다.

생성형 AI 도입 시 미국 은행들이 겪은 주요 도전

데이터 프라이버시 및 보안 문제 은행들은 방대한 양의 민감한 고객 데이터를 다루기 때문에 데이터 프라이버시와 보안이 최우선 과제입니다. 생성형 AI 모델 훈련에 사용되는 대규모 데이터셋에는 개인식별정보(PII)와 금융 세부정보가 포함될 수 있어 데이터 유출과 무단 접근 방지가 중요합니다. https://masterofcode.com/blog/generative-ai-in-banking 출처: Finextra
규제 준수 및 윤리적 고려사항 은행 산업은 엄격한 규제 프레임워크 내에서 운영되며, AI 기술의 빠른 발전 속도에 규제가 뒤처지는 경향이 있습니다. 편향된 결과 방지, 설명 가능성 확보, 알고리즘 투명성 관리 등 윤리적 문제를 신중히 다뤄야 합니다.
인재 부족 및 조직 문화 적응 AI와 머신러닝 전문가 확보에 어려움을 겪고 있으며, 기존 직원들의 역량 강화와 AI 도입을 장려하는 조직 문화 조성이 필요합니다. 출처: Itrexgroup
레거시 시스템 및 인프라 문제 많은 은행들이 생성형 AI 요구사항과 호환되지 않는 레거시 시스템과 복잡한 IT 인프라를 보유하고 있습니다. AI 알고리즘과 모델을 기존 인프라에 통합하는 것은 어려운 과제입니다.
신뢰성 및 설명 가능성 확보 생성형 AI, 특히 딥러닝 모델은 종종 블랙박스처럼 작동하여 의사결정 과정을 이해하고 해석하기 어렵습니다. 고객, 규제 기관, 이해관계자들에게 AI 기반 결정의 근거를 설명할 수 있어야 합니다. 출처: YNA

이러한 도전들을 극복하기 위해 은행들은 강력한 보안 조치 구현, 규제 준수 프레임워크 개선, AI 전문가 채용 및 교육, 시스템 현대화, 그리고 설명 가능한 AI 기술 개발에 투자하고 있습니다.

생성형 AI 통합을 위한 안전성 확보 전략

1. 거버넌스 체계 구축

중앙집중적인 거버넌스 체계를 통해 AI 활용에 따른 위험을 관리하고 규제 준수와 투명성을 보장합니다. 예를 들어, JPMorgan Chase는 AI 모델의 위험을 체계적으로 관리하기 위해 '모델 리스크 거버넌스' 기능을 도입했습니다.

실예: JPMorgan Chase는 인공지능(AI) 기술의 안전하고 책임 있는 도입을 위해 체계적인 거버넌스 구조를 구축하고 있습니다. 특히, 금융 서비스와 같은 규제가 엄격한 산업에서 AI를 활용할 때 발생할 수 있는 위험을 관리하기 위해 '모델 리스크 거버넌스(Model Risk Governance)' 기능을 도입하였습니다.

이 거버넌스 체계는 다음과 같은 요소로 구성되어 있습니다:

기술 통제 및 위험 관리: AI 모델의 개발 및 배포 과정에서 기술적 통제를 강화하고, 잠재적인 위험을 사전에 식별하여 관리합니다.
규제 준수 및 윤리적 고려: AI 활용이 규제 요구사항을 충족하고 윤리적 기준을 준수하도록 보장합니다.
투명성 및 설명 가능성 확보: AI 모델의 의사결정 과정을 이해하고 설명할 수 있도록 하여, 고객과 규제 기관의 신뢰를 유지합니다.

2. 리스크 관리 프레임워크 강화

AI 통합 리스크를 줄이기 위해 기존의 리스크 관리 체계를 AI 친화적으로 강화하고 있으며, 규제 기관과 협력하여 프레임워크를 점진적으로 발전시키고 있습니다.

실예: Lumenova AI의 리스크 관리 프레임워크 강화 사례 - https://www.lumenova.ai/

소매 은행이 기존의 리스크 관리 프레임워크를 AI 인식이 가능하도록 통합하고, AI 이니셔티브를 점진적으로 도입할 수 있도록 지원했습니다. 주요 내용은 다음과 같습니다:

사전 위험 평가 수행: 배포 전 비공개 생성형 모델에 대한 사전 위험 평가를 실시하여 평판 위험을 방지합니다.
지속적인 모니터링 구현: 생산 중인 모델에 대한 지속적인 알고리즘 모니터링을 통해 새로운 문제를 식별합니다.
규제 준수 자동화: 자동화된 문서화를 통해 규제 요구사항을 충족하고 투명성을 확보합니다.
데이터 추적 및 보안 강화: 출력물 워터마킹 및 데이터 계보 추적을 구현하여 개인정보를 보호하면서 완전한 투명성을 제공합니다.
전문적인 검토 프로세스: 불확실한 응답이나 의도하지 않은 해로운 영향에 대한 전문적인 검토를 통해 완화 전략을 수립합니다.

3. 데이터 보안 및 규제 준수

고객 데이터의 프라이버시를 보호하기 위해 GDPR 및 CCPA 같은 규정을 준수하며, AI를 통해 규제 보고서를 자동으로 작성하고 규정 준수를 효과적으로 관리합니다.

실예: FairNow - https://fairnow.ai/ 는 기업들이 AI 시스템을 관련 법규, 표준 및 윤리 지침에 맞게 운영할 수 있도록 지원하는 소프트웨어를 제공합니다. 이 도구의 주요 기능은 다음과 같습니다:

실시간 규제 추적: 새로운 규제 지침이 등장할 때마다 기업에 즉시 알림을 제공하여 지속적인 규정 준수를 보장합니다.
지능형 위험 평가: AI 규제가 위험 기반 접근 방식을 따르는 점을 고려하여, AI 시스템의 잠재적 위험과 이를 완화하기 위한 조치에 대한 상세한 보고서를 생성합니다.
보고 및 문서화 자동화: 감사 및 규제 제출에 필요한 문서를 자동으로 생성하여 기업이 규정 준수 노력을 쉽게 입증할 수 있도록 합니다.
규정 준수 상태 추적: 조직 전체의 AI 애플리케이션에 대한 규정 준수 상태를 한눈에 볼 수 있는 대시보드를 제공합니다.

4. 단계적 도입 및 모니터링

AI 도입을 단계적으로 진행하여 초기 성과를 창출하고 리스크를 줄여나가고 있습니다. Wells Fargo의 경우, 먼저 디지털 어시스턴트를 모바일 앱에 도입하고 이후 기능을 확장해나가며 지속적인 모니터링을 통해 개선해 왔습니다.

실예: Wells Fargo의 사례는 AI의 단계적 도입 및 모니터링 전략을 잘 보여줍니다: https://aiexpert.network/wells-fargo-ai/

점진적 접근:
- 먼저 디지털 어시스턴트 Fargo를 모바일 앱에 통합하여 고객 서비스를 개선했습니다.
- 이후 Fargo의 기능을 Interactive Voice Response (IVR) 시스템으로 확장하여 고객 서비스 채널 간 원활한 전환을 가능하게 했습니다.
- 초기 성공을 바탕으로 LifeSync라는 개인화된 재무 계획 도구를 도입했습니다.

5. AI 모델 평가

AI 모델의 성능을 지속적으로 평가하고 오류와 편향성을 감지해 개선하며, 다양한 시나리오를 통해 실제 금융 환경에서의 대응력을 강화합니다. JPMorgan Chase는 정기적인 알고리즘 모니터링을 통해 이러한 목표를 달성하고 있습니다.

실예:

정기적인 성능 평가: https://www.jpmorgan.com/technology/artificial-intelligence/initiatives/explainable-ai-center-of-excellence
- JPMorgan Chase는 AI 모델의 정확성과 신뢰성을 유지하기 위해 지속적인 모니터링 및 평가 시스템을 구축했습니다. 이는 다음과 같은 특징을 가집니다:
  - 지속적인 알고리즘 모니터링을 통해 생산 중인 모델에서 발생하는 문제를 식별하고 해결합니다.
  - 모델 성능을 평가하고 결과의 정확성을 검증하는 프로세스를 정기적으로 수행합니다.
- 편향성 및 오류 감지:
  - 특화된 검토 프로세스를 통해 불확실한 응답이나 의도하지 않은 해로운 영향을 평가하고 완화 전략을 수립합니다.
  - 공정성 테스트 프로토콜을 구현하여 AI 모델의 편향성을 지속적으로 모니터링하고 개선합니다.
- 다양한 시나리오 테스트:
  - JPMorgan Chase는 실제 금융 환경에서의 AI 성능을 강화하기 위해 다양한 시나리오 테스트를 수행합니다:
    - 극단적인 시장 상황(예: 팬데믹)에서도 공정한 대출 준수를 검증하기 위해 생성형 AI를 활용하여 현실적인 차용자 프로필을 생성합니다. https://www.treliant.com/knowledge-center/brr-ft-four-ways-banks-are-harnessing-ai-to-manage-model-risk/
    - 이를 통해 다양한 시장 조건에서 AI 모델의 대응력을 테스트하고 개선합니다.

TecAce의 AI Supervision TecAce의 AI Supervision 솔루션은 은행들이 생성형 AI를 안전하게 운영할 수 있도록 지원합니다. 이 솔루션은 AI 모델의 성능을 평가하고, 보안과 안전을 위한 가드레일 역할을 수행하며, AI 시스템이 건강하고 효율적으로 운영되고 있는지를 지속적으로 모니터링합니다. 자동화된 테스트와 다양한 메트릭스를 통해 생성형 AI의 안전성을 확보하고 리스크를 최소화하는 데 중요한 역할을 합니다. TecAce의 솔루션을 통해 데이터 프라이버시, 규제 준수, 윤리적 AI 사용 등의 문제를 효과적으로 해결할 수 있으며, AI 기반 금융 서비스의 신뢰성을 높이고 안정성을 보장할 수 있습니다.