미군이 개발 중인 살인 로봇들이 인간을 완전히 무방비 상태에 놓을 것이라고 학계가 경고한다.
미 국방 고등 연구 기획청(DARPA)이 위탁한 두 프로그램은 조종사들과 접촉이 없을 시에도 목표를 추적하고 죽이는 드론을 개발하고 있다.
미국 버클리 대학의 컴퓨터 공학 교수인 스튜어트 러셀씨는 Nature지에서 이 연구가 제네바 협정을 위반하고 인류를 도덕 관념을 지니지 않은 기계의 손에 맡기는 것일 수 있다고 경고한다.
“자동화 무기 시스템은 인간의 개입 없이 목표를 선택하고 공격합니다. 이 목표들에 인간이 포함된다면 치명적이죠.” “현재의 인공 지능과 로봇공학으로 물리적 플렛폼, 인지, 모터 조정, 이동, 매핑, 전술 결정, 장기 계획 수립이 가능합니다. 단지 이것들을 합쳐주기만 하면 됩니다.”
치사 자동 무기 시스템(LAWS)으로 불리우는 로봇들은 인간의 개입 없이도 누구를 살리고 죽일지의 결정할 수 있는 4개의 로터를 가진 드론식 미니 탱크가 될 것이다.
미 고등 국방 기획청은 현재 살인 로봇이 될 수 있는 두 개의 프로젝트를 진행하고 있다. 하나는 ‘고속 경량 자율성(FLA)’으로 도시 지역과 빌딩 내에서 고속으로 도움 없이 비행할 수 있는 작은 드론을 기획하고 있다. 다른 하나는 ‘작전 불능 상황에서의 공동 작전(CODE)’으로 불리는 것으로, 인간 지휘관과의 통신이 불가능한 상황에서 스스로 찾고, 준비하고, 추적하고, 겨냥하고, 공격하고, 평가하는 공격 업무 전반을 실행하는 자동 비행 물체들로 구성되는 팀이다.
러셀 교수는 말한다. “LAWS는 예를 들어 기계에게 누구를 죽일지를 스스로 선택하게 하여 인간 존엄성의 기본 원칙을 위반할 수 있습니다. 이들에게 위협이 되는 행동을 보이는 누구도 제거하도록 하는 업무가 주어질지도 모릅니다.”
“과학계 모임에서 토론이 준비되고 윤리 위원회가 참여해야 합니다. 아무 행동도 하지 않는 것은 킬러 로봇의 지속적인 개발과 실전 배치를 찬성하는 것과 다를 바 없습니다.”
그러나 브리스톨 대학의 로봇공학 강사인 사빈 하우어트 박사는 대중들이 인공지능의 발전을 두려워 할 필요가 없다고 말한다.
“제 동료들과 저는 저녁 파티에서 우리는 악하지 않으며, 오히려 노인들을 돕고 건강을 향상시키며, 일자리를 더 안전하고 효율적으로 만드는 시스템을 개발하는데 많은 시간을 보내왔고, 이것이 결국 우리를 우주 또는 해저를 탐사하는 것을 가능하게 한다고 설명하면서 시간을 보냅니다. ”
