보험사들이 인공지능(AI) 관련 위험을 보험 적용 대상에서 제외하려는 움직임을 보이고 있다고 파이낸셜 타임스가 보도했다. AIG, 그레이트 아메리칸, WR 버클리 같은 대형 보험사들은 최근 미국 규제 당국에 챗봇이나 AI 에이전트를 사용하는 기업의 책임을 보험에서 배제할 수 있도록 허가를 요청했다.
이런 움직임이 나타나는 이유는 명확하다. 기업들이 앞다투어 AI 기술을 도입하면서 이미 여러 문제가 발생하고 있기 때문이다. AI 모델이 잘못된 정보를 만들어내는 ‘환각’ 현상 때문에 기업들이 큰 곤란을 겪고 있다.
실제 피해 사례도 속출하고 있다. 태양광 기업인 울프 리버 일렉트릭은 구글의 AI 기능이 회사가 소송을 당했다는 거짓 정보를 퍼뜨렸다며 최소 1억 1천만 달러의 손해배상을 청구했다. 에어 캐나다는 자사 고객 서비스 챗봇이 임의로 만들어낸 할인 혜택을 인정해야 했고, 영국 엔지니어링 회사 아럽은 사칭범이 디지털로 복제한 임원의 모습으로 화상회의를 열어 2억 홍콩달러(약 377억 2천만 원)를 사기당했다.
보험사들이 가장 우려하는 것은 AI 위험의 예측 불가능성이다. 사이버 보험 전문가들은 AI 모델의 결과물이 너무 불투명해서 보험을 제공할 수 없다고 말한다. 한 회사가 AI를 잘못 사용해 4억~5억 달러의 손실을 입는 것은 감당할 수 있지만, 하나의 AI 실수가 수천 개 기업에 동시다발적으로 영향을 미치는 시스템적 위험은 감당할 수 없다는 것이다.
문제를 더 복잡하게 만드는 것은 책임 소재가 불분명하다는 점이다. AI 관련 사고가 발생하면 개발자, 모델 제작자, 최종 사용자 등 여러 당사자가 연루될 수 있어 누가 책임을 져야 하는지 명확하지 않다. 기존의 사이버 보험은 주로 보안이나 개인정보 침해를 다루기 때문에 AI의 잘못된 정보 생성 같은 문제는 적용 범위 밖이다.
일부 보험사들은 AI 위험을 명확히 하기 위해 보험 약관을 수정하고 있지만, 보험 중개인들은 이런 수정이 오히려 보장 범위를 축소시킬 수 있다고 경고한다. 예를 들어 QBE라는 보험사는 유럽연합의 AI 규제 법 관련 벌금에 대한 보장을 추가했지만, 보상 한도를 전체 보험금의 2.5%로 제한했다. 또 다른 보험사인 처브는 일부 AI 위험은 보장하되, 한 번에 여러 고객에게 영향을 미치는 ‘광범위한’ AI 사고는 제외하기로 했다.
보험 중개인과 변호사들은 앞으로 AI로 인한 손실이 크게 증가하면 보험사들이 법정에서 보상 책임을 다투기 시작할 것이라고 우려한다. 업계 관계자들은 대형 사고가 발생해야 보험사들이 본격적으로 “이런 사고는 보장 대상이 아니었다”며 선을 긋기 시작할 것으로 전망하고 있다.
So AI is so risky insurance companies are asking to exclude AI from policies.https://t.co/zMXdindZ2r pic.twitter.com/yYw5BmNtMJ
— hadden (@hadden) November 29, 2025
