복종 등 ‘로봇 3원칙’ 새로운 해석

‘아이 로봇’

미치광이 기사가 모는 버스가 승객을 가득 태운 채 낭떠러지를 향해 돌진하고 있다. 승객을 보호하려면 미치광이의 손에서 운전대를 빼앗아야 한다. 기사가 반항한다면 그를 해쳐서라도 승객을 구해야 한다. 그런데 승객들도 제정신이 아니라면? 혹은 낭떠러지를 향해 달리고 있다는 것을 아무도 모른다면?

이 버스에 고도의 지능과 완력을 가진 로봇이 타고 있다고 가정해보자. 만약 인간이 로봇에게 자신의 지시에 절대 복종할 것을 명령한다면, 그리고 이 로봇이 인간에게 해를 끼쳐서는 안 되며 인간의 명령에 무조건 복종해야 한다는 ‘로봇 3원칙’에 충실한 로봇이라면 어떻게 할까.

인간이 스스로를 파멸시키는 행위를 할 때 인간의 의사에 반해 그를 막는 것은 이 원칙에 위배되는 것인가, 아닌가. 인간을 보호하기 위해 인간의 명령을 거부하고, 인간을 죽여야 하는 상황이라면 로봇은 어떻게 해야 할까.

이 이율배반적 상황을 가정한 영화가 ‘아이 로봇’이다. 영화는 ‘인간에게 자신의 안전과 미래에 대한 통제능력이 없을 때 로봇 3원칙의 논리적인 결론은 인간의 명령을 거역하고 반란을 일으키는 것이다’라고 얘기한다. 로봇 3원칙에 대한 새로운 해석인 셈이다. 로봇이 전체 인류의 생존을 걱정할 정도로 고차원적 사고능력이 있다는 것을 전제로 했지만, 파멸로 치닫는 자기 운명에 대한 성찰을 인간이 스스로 하지 못하니 로봇이 대신한다는 풍자로 읽힐 수 있다.

인류의 종말을 다룬 많은 묵시론적 영화들은 ‘아이 로봇’처럼 인간에 대한 실망과 비관에서 출발한다. 영화 ‘코어(Core)’에서 상정한 인류 종말의 위기도 인간의 과욕이 자초한 것이었다. 그래서 “인간은 지구상에서 바이러스 같은 존재야”(‘매트릭스’)라는 비아냥을 산다. 이는 단지 영화 속 상황만은 아닐 것이다. 인간 스스로 자기 무덤을 판 어리석음과 관련된 사례는 수없이 많다. 그러나 많은 경우 인간은 뒤늦게 깨닫기는 해도 자신의 잘못을 교정하려는 모습을 보여준다. 최근 인도네시아 발리에서 열린 유엔 기후변화회의의 합의도 그 한 사례다. 인간은 어리석은 존재지만 로봇에 운명을 맡기지 않아도 될 만큼은 현명한 것이다.