[IE 금융] 최근 생성형 인공지능(AI) 활용이 빠르게 확산하는 가운데 허위 정보 생성 및 확산, 저작권 침해, 사회적 차별 학습, 딥페이크 등 관련 위험도 함께 커지며 이를 위한 보험이 새 과제로 떠올랐다.

더불어 생성형 AI 보험상품의 국내 도입이 원활해지려면 보험 수요 조사, 생성형 AI 정의와 기존 법·규제 체계 간 호환성 제고, 인수 가능성이 높은 위험부터 선별적 보험상품 도입 등 단계적인 접근이 필요하다는 주장도 제기됐다.

22일 보험연구원 한진현 연구윈원은 '생성형 AI 위험과 보험산업' 보고서를 통해 "생성형 AI 위험은 잠복성, 동시 다발성, 불분명한 책임 소재 등의 특성으로 대규모 손실로 이어질 가능성이 높아 보험상품 설계 시 위험 측정과 손해율 관리가 중요하다"고 말했다.

현재 생성형 AI 기술은 업무 자동화와 콘텐츠 생성, 고객 응대 등 여러 분야에 활용되지만, 이에 따른 개인정보 침해, 저작권 분쟁, 허위 정보, 시스템 오류 등 법적·재무적 위험에 대한 대비는 미흡하다.

또 기본 보험상품에서는 이런 위험을 담보하기 어렵다는 점도 지적됐다. 현재 보험시장에서 판매 중인 배상책임보험이나 사이버보험은 생성형 AI 특유의 위험 구조를 반영하지 못하기 때문.

이에 해외 일부 보험사는 생성형 AI 관련 위험을 담보 범위에서 제외하기 위해 보험 약관을 수정하거나 특약을 개발하고 있다.

일례로 미국 내셔널유니언화재보험과 그레이트아메리칸보험은 버스크(Verisk) 산하 ISO(Insurance Service Office)를 기반으로 생성형 AI의 오류 탓에 발생한 재산 손해, 자기신체상해, 개인 또는 광고상 손해 등을 면책 대상에 포함하는 특약을 개발했다. 버스크는 보험 데이터 분석 전문 다국적 기업으로 보험사의 위험 관리를 지원하며 ISO는 보험 데이터 기반의 다양한 보험상품의 표준 보험 약관을 개발하고 있다.

악사(AXA)는 기존 사이버보험에 생성형 AI 활용 과정에서 발생할 수 있는 데이터 오염, 규제 위반, 저작권 침해로 인한 법적 분쟁 등을 보장하는 특약을 추가했으며 뮌헨리(Munich Re)는 AI 기술 사업자를 대상으로 AI 시스템 성능 보증 위험을 인수하는 'aiSure' 솔루션을 공개했다. 아르밀라(Armilla)는 중국인민보험(PICC)과 함께 AI 보험 상품을 개발했다.

이와 관련해 한진현 연구위원은 "인수 가능성이 높은 위험부터 선별해 시범적으로 보험상품을 도입하는 단계적 접근이 필요하다"며 "예를 들어 기업 내부 업무 과정에서 생성형 AI의 오류로 손실이 발생한 경우 해당 손실은 소비자 등 제3자에게 전가되지 않고 기업의 자기 손해에 한정되므로 보상 기준 설정이 비교적 용이하다"고 설명했다.

그러면서 "소수 고객을 상대로 서비스를 제공하는 경우 기존 전문인배상책임보험과 유사하게 생성형 AI 오류로 발생한 고객 의사결정의 손해를 담보하는 방식으로 설계할 수 있을 것"이라고 부연했다.

이 밖에도 금융당국과 업계 간 협력 필요성도 언급했다. AI 사고 발생 시 책임 구조와 보상 기준을 명확히 정립하지 않으면 보험 시장의 대응도 제한될 수 있어서다.

한 위원은 "생성형 AI 확산이 보험 산업에 위기이자 기회가 될 수 있다"며 "보험사는 단기 실적 중심 접근에서 벗어나 중장기 관점에서 AI 위험 관리 전략을 수립해야 한다"고 제언했다.

/이슈에디코 김수경 기자/