KB증권은 'AI(인공지능) 거버넌스 체계'를 구축한다고 30일 밝혔다. 이는 기술 급성장에 따른 부작용을 예방하고 체계적인 AI 금융 서비스 제공을 위해서다.
최근 AI 기술이 급격하게 발전함에 따라 금융산업의 다양한 분야에서도 AI가 활용되고 있다.
로보어드바이저와 상담 챗봇 및 머신러닝 기반의 상품 추천 등 AI 기반 서비스가 확산되면서 이용자들은 편리한 금융 서비스를 이용할 수 있게 됐다.
그러나 AI 알고리즘 편향성과 이용자 정보 오남용, 부당한 차별 등 새로운 위험 요소가 발생하는 문제점이 있다.
이에 KB증권은 AI 기술·법률 전문성을 보유한 삼성SDS과 김·장 법률사무소, 삼정KPMG 등 전문업체 컨설팅을 통해 AI 기술 활용 과정에서 발생할 수 있는 윤리적, 법적 문제와 AI 학습 데이터·모델의 위험 요인을 사전에 식별해 방지할 계획이다.
또 이용자에게 신뢰할 수 있는 AI 금융 서비스 제공을 목표로 'AI 거버넌스 체계'를 수립할 예정이다.
'AI 거버넌스 체계' 수립 목표는 AI 개발 및 활용 과정에서 인간의 존엄성, 공정성, 다양성 등을 존중할 수 있는 윤리 원칙 수립·준수 체계를 마련하고 효율적인 AI 시스템 개발을 위한 사내 규정을 체계화하는 것이다.
실무 부서에서는 AI 관련 시스템·서비스 도입 검토 시 검토 방법과 AI 활용 위험 감소 방안을 사전에 검토할 수 있도록 AI 업무 매뉴얼이 제시되고 AI 서비스별 위험도를 측정해 산출된 위험 수준별 관리 및 모니터링 정책을 수립할 예정이다.
KB증권은 정부·감독기관의 AI 관련 규제가 시행되기 전에 앞서 선제적으로 관리 체계를 구축함으로써 AI를 활용해 발생할 수 있는 리스크를 예방, 관리해 소비자 보호에도 힘쓸 계획이다.
또 AI 기술 남용으로 인한 이용자 피해 예방에 대한 강조는 금융소비자들이 안심하고 금융 서비스를 이용할 수 있도록 하는데 기여할 것으로 기대한다.
아울러 'AI 거버넌스 체계' 선도적 수립은 금융업계 전반의 AI 활용에 대한 신뢰를 높이고 국내 금융 시장의 경쟁력 강화에도 기여할 것으로 전망했다.
이와 함께 급속도로 발전하는 AI 기술환경 하에서 창의적이고 다양한 AI 기반 서비스 개발 시 발생할 수 있는 위험 경감 및 사고 예방 가능한 체계적인 가이드를 제시해 적극적인 AI 기술 활용을 유도할 수 있을 것으로 내다봤다.
하우성 KB증권 디지털사업총괄본부장은 "AI 역할이 나날이 커져가고 있는 가운데 'AI 거버넌스 체계'를 올해 내 선제적으로 구축해 책임감 있는 AI를 도입할 계획"이라며 "고객의 신뢰를 바탕으로 AI 기술을 선도하는 KB증권이 되기 위해 최선의 노력을 다하겠다"고 말했다.
