지난 주에 테슬라와 스페이스엑스의 CEO인 엘론 머스크는 한 인공지능 회사의 작업에 대해서만 염려하고 있다고 밝혔다. 그 회사의 이름은 구글이다.
머스크와 그와 걱정을 공유하는 사람들은 구글과 딥마인드가 인간의 완전한 통제를 보장하는 방법들에 대해 생각하고 있다는 걸 알게되면 마음이 좀 편해질 것이다.
옥스포드 대학 인류 미래 연구소 소속의 딥마인드 연구자인 로렌트 오르소와 스튜어트 암스트롱은 인공지능의 행동 방침을 중단시키기 위한 틀을 세웠음이 학술논문을 통해 확인되었다.
‘행위자가 해로운 연속적인 행동을 시족하는 걸 막기 위해 인간 운전자가 커다란 빨간 버튼을 누르는 것이 가끔은 필요할지도 모릅니다’ 라고 논문은 적고 있다.
물론 이것은 영리한 인공지능이 ‘커다란 빨간 버튼’을 무시하기 위한 방법을 생각해낸다면 큰 소용이 없을 것이다.
인공지능이 인간과의 상호작용 지점을 감안해서 그것을 피할 수 있는 바람직하지 않은 지름길을 만드는 걸 막는 것이 핵심임을 논문은 암시하고 있다. 그래서 말 그대로 큰 빨간 버튼이 공장에서 안전상의 이유로 눌러질 때, 인공지능이 이걸 생산성에 나쁘다고 판단하여 하던 일을 계속하지 못하도록 한다.
Source: trustedreviews.com
.
